凯特·克劳福德（Kate Crawford）是当代人工智能与社会研究领域的有名学者。
她是洛杉矶南加州大学的研究教授、纽约微软研究院的高等首席研究员，还是巴黎高档师范学院首任人工智能与法律客座教授。
她的研究集中在人工智能的社会和政治影响，涉及领域包括数据伦理、算法公正、隐私保护、以及技能在社会中的权力动态。

除学术研究外，凯特·克劳福德还制作艺术装置和视觉调查作品，这些作品已在环球一百多家博物馆和双年展上展出。

《Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence》书封

凯特·克劳福德2021年揭橥著作《Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence》，详细磋商了人工智能技能从开拓到支配的全体生命周期，并剖析了其广泛的社会、经济和环境影响。
她在书中指出，人工智能不仅是一个技能问题，还是一个政治问题，它涉及资源的分配、权力的集中以及环境的代价。
澎湃***在该书中文版《技能之外：社会联结中的人工智能》今年出版之际采访了凯特·克劳福德。

中文版《技能之外：社会联结中的人工智能》书封

澎湃***：你在书中提到“人工智能是权力的登记表（AI is a registry of power）”，“registry”常日指的是一个登记、注册或者记录的系统或列表，它代表一个包含了某些种别信息的官方或正式记录。
你能详细阐明一下这个观点吗？在你看来，人工智能如何在根本上是政治的？

凯特·克劳福德：如果你有一份“registry of power”，这可能意味着一个记录或数据库，个中列出了与权力干系的某些信息，如节制权力的个人或机构、权力的来源和分配、权力的演化等。

人工智能系统并不是中立的技能。
它们嵌入了现有的权力构造，并且每每会强化或放大社会不平等。
人工智能的发展反响了那些创造和掌握这些技能的人的优先事变和偏见。
例如，选择用哪些数据来演习人工智能系统是非常主不雅观的——而这些数据集塑造了人工智能模型。
关于网络哪些数据、如何对其进行分类以及打消哪些数据的选择都涉及一些决定，这些决定塑造了人工智能将增强的权力类型。
我们只需问一句：“谁是英雄？科学家是什么样子？”就能看出哪些政治不雅观点占主导地位。

人工智能在管理和分配资源的办法上也是一种权力的节制者。
人工智能须要大量的能源、水和关键原材料。
掌控人工智能的公司和政府会为自己谋取利益而压迫（extract）这些资源，而为其供应资源的社区每每会遭受苦难。
同样的情形也涌如今人工智能发展中常日被“隐身”的劳动中，包括数据标记和内容管理，这每每会剥削低收入国家的工人。
理解和解决权力是如何被人工智能所集中的，对发展更加公正和正义的技能未来至关主要。

澎湃***：你提到人工智能是由西方少数主导公司驱动的一种非民主政治（non-democratic politics）的形式，这会对成本主义社会的经济差距和民主进程产生什么影响？

凯特·克劳福德：人工智能作为一种技能，在当前的发展轨迹下，存在着显著加剧社会中已经存在的不平等和权力失落衡的风险。
它连续将权力集中在少数大型科技公司手中——这些公司被称为人工智能领域的“豪门”（Great Houses of AI），由于它们拥有获取生态、打算、数据和劳动力资源的能力，这些资源是构建和掩护环球人工智能系统所需的。
随着经济和政府的其他部门变得依赖人工智能，要推动制订更加平衡的法律和法规变得更加困难。

澎湃***：本书剖析了在西方社会中监视是如何扩展、私人承包商、司法部门和科技行业之间界线如何日益模糊。
这是否意味着缺少监督的国家更易于支配用于监视的人工智能技能？

凯特·克劳福德：利用人工智能的监视扩展在许多国家中都很普遍，包括西方民主国家。
人工智能对威权掌握系统很有吸引力，无论是技能上还是政治上。
一些人认为人工智能是一种强大的工具，可以压制异议，管理"大众年夜众意见，并预防性地肃清对他们威信的威胁。

当科技行业、政府和司法部门之间的界线变得模糊，会导致一个普遍存在的监视根本举动步伐。
国家常常与拥有开拓繁芜人工智能系统技能专业知识的私营科技公司互助。
这些系统随后被整合到司法和情报行动中，形成了一套完全的监视装置。
这种互助使国家能够得到前辈的监视能力，并让公司通过有利可图确当局条约以及试验和完善他们技能的机会而受益。
这便是为什么我们急迫须要在人工智能培植过程中增加透明度和问责制，同时须要签订强有力的国际协议来规范人工智能的合理利用。

澎湃***：人工智能运用常日向用户展示大略的界面，同时隐蔽繁芜的实现细节，你认为这种抽象水平如何影响用户对人工智能系统的理解和交互？详细而言，这种大略性是否可能粉饰人工智能运作的主要方面，这对人工智能系统的透明度和问责制可能会产生什么影响？

凯特·克劳福德：人工智能界面的简洁性是一种刻意的设计选择。
这使得这些系统看起来大略、轻巧，实际上它们是弘大的环球根本举动步伐。
人们越来越关注人工智能对环境和劳动力的本钱，即为推动这些环球人工智能系统所需的能源、水、关键材料和低人为劳动力。
简洁的界面抽象掉了用于让这些系统事情的演习数据——所有由艺术家、作家和成千上万其他个人贡献者制作的文本和图像，他们的数据常常在未经赞许的情形下被利用。
这种抽象化使得研究职员、和监管者很难追查任务，由于他们每每能打仗到的只有界面。

澎湃***：“压迫”（extraction）是你书中的一个关键观点，书中磋商了大量案例，揭示了支持人工智能技能的环球网络是如何造成环境毁坏的。
这种毁坏影响有多大？人们正在采纳哪些方法来减轻这些影响（如果有的话）？

凯特·克劳福德：终极，人工智能系统所提取资源的紧张受益者是开拓和掌握这些技能的科技精英和企业。
他们得到了巨大的经济实力、数据驱动的洞察力和市场主导权，但每每以捐躯社区、更广泛的社会利益和环境为代价。

正如我在这本书中所论述的，我们已经看到人工智能的环境本钱对天下各地的社区造成了毁坏。
我们看到，用于人工智能的超大规模数据中央的能源和用水量急剧增加。
我们还看到，在加纳的阿格博格洛希（Agbogbloshie）等地，电子垃圾堆积如山，废弃的电子产品被倾倒在那里。

所有这些做法的总体影响很难评估，由于许多公司将其对环境的全部影响视为企业机密。
我们须要更多促进透明度的努力，比如美国参议院的《2024年人工智能环境影响法案》。

澎湃***：美国打算机科学和人工智能领域的先驱Woody Bledsoe曾说过“从长远来看，人工智能是唯一的科学 ”，为什么科学家和技能专家对人工智能的未来如此充满信心？

凯特·克劳福德：首先，并非所有科学家和技能专家都对人工智能作为一个主导领域取得长期成功充满信心。
许多人对人工智能的局限性和现有架构可能存在的无法办理的问题表示疑惑。
对付那些最极度的科技乐不雅观主义者来说，每每是出于经济利益或政治利益的驱动。
目前的科学辩论在人工智能家当应如何发展方面存在着相称大的差异，我们中的许多人都在关注如何使这些技能在社会上更加公正和可持续。

澎湃***：书里提到“魔幻决定论”（enchanted determinism）征象，即人工智能系统被视为有魔力的、超越已知天下的，但其创造模式——用以准确预测日常生活的模式——的能力又是决定性的。
这种为准确预测而降落繁芜性的痴迷源于何处？

凯特·克劳福德：对降落繁芜性以实现准确预测的痴迷，源于人们在不可预测的天下中对掌握和确定性的渴望。
在许多方面，它延续了20世纪对科学管理的迷恋，以及对数据和算法可以简化工业和优化生产的信念。
目前，在美国，我们看到人工智能被用来减少劳动力。
在一项针对美国450名高管的调查中，“45%的人表示，他们正在将任务自动化，以减少职员和劳动力本钱”。

澎湃***：那么我们可以采纳哪些方法来办理过度简化和压迫我们繁芜、私密和不同体验的问题？我们如何才能确保人工智能技能尊重并保留人类情绪体验的细微差别，而不是为了打算和商业目的将其简化为 “卡通素描”？

凯特·克劳福德：我不相信我们可以相信人工智能技能会保留人类情绪表达的细微差别，纵然我们可以，我也不认为我们会希望生活在一个让人工智能系统扫描我们的脸和身体，根据我们的微表情对我们进行分类的天下里。
歧视、陵犯隐私和权力滥用的潜在可能性将是毁灭性的。

澎湃***：只管从看似无害的匿名数据集中可能会涌现意想不到的高度个人信息，图像和文本的网络却有增无减。
为什么人工智能行业会接管这种做法，只管它存在伦理、政治和认识论问题及潜在危害？

凯特·克劳福德：我和我的合著者Will Orr最近就这一话题进行了一项研究，研究报告即将揭橥在《新媒体与社会》（New Media and Society）杂志上。
我们在研究中创造，许多人工智能工程师面临着巨大的竞争和经济压力，而且在数据集制作方面缺少明确的法律辅导。
这是一个至关主要的领域，须要更明确的行业标准和法规。

澎湃***：早期一些号称利用人工智能技能的虚拟助手被曝光雇佣人类员工来处理繁芜问题，比如x.ai的Amy和Facebook的M等。
自ChatGPT等更前辈的模型涌现以来，人工智能系统对人工干预的依赖是否有所减少？

凯特·克劳福德：纵然有了ChatGPT，人工智能系统中的人工干预是否已经减少还不清楚。
通过调查报告和审计，我们越来越多地理解到，像 OpenAI 这样的公司正在分包数千名工人，以供应他们所谓的 “通过人类反馈强化学习”（RLHF）。
在一个案例中，OpenAI分包给一家名为 Sama 的公司，每小时支付肯尼亚数据工人2美元，让他们从 ChatGPT 中删除有毒结果，包括大量涉及暴力、虐待和仇恨辞吐的输出。

澎湃***：2023年底你在米兰举办一个名为“打算帝国”（Calculating Empires）的展览，这是一个什么样的展览？你想传达的信息是什么？

凯特·克劳福德：“打算帝国”是一个大型可视化研究项目，旨在探索五个世纪以来技能和社会构造是如何共同演化的。
它展示了当代是如何从思想、设备、根本举动步伐和权力体系的漫长轨迹中发展出来的。
它追溯了自1500 年以来殖民主义、军事化、自动化和封闭化的技能模式，展示了这些力量如何仍在履行征服，以及如何可能被解除。
通过追踪这些帝国之路，“打算帝国”供应了一种在更深层次的历史背景下核阅我们的技能现状的方法。
通过研究过去的帝国是如何打算的，我们可以看到它们是如何创造了本日帝国的条件。
这是一件大型装置作品，长达 27 米——因此它讲述的是一个繁芜的故事！
目前它正在柏林展出，希望有一天它也能在中国巡回展出。