OpenAI、剑桥大年夜学等联合宣告:《算力与人工智能治理》_人工智能_才能
算力为何是人工智能管理的重点?政府和公司采纳了哪些管理手段?2024年2月,图灵奖得主约书亚·本吉奥(Yoshua Bengio)和来自OpenAI、人工智能管理中央(GovAI)、剑桥大学Leverhulme未来智能中央等机构的19位学界、业界人士联合揭橥了一篇题为“Computing Power and the Governance of Artificial Intelligence”的研究论文,先容了人工智能算力的特点,阐明了算力的哪些特色使其成为人工智能管理的一个具有吸引力的工具,以及算力管理的上风和可能的风险。元计策编译此文章,以期为读者供应参考。
一 简介 十年来,人工智能取得了巨大的进步,这在很大程度上得益于用于演习深度神经网络的算力的指数级增长。这种算力的增长是当古人工智能浪潮的关键推动成分,包括大措辞模型和天生式人工智能,其总体性能可以随着更多算力的运用而提高。日益强大的人工智能系统可能会在未来几年深刻地重塑社会。事实上,它们已经在影响我们生活的许多方面,如生产力、流动性、康健和教诲。人工智能的风险和收益引发了关于人工智能管理的问题:哪些规范、机构和政策能够更好地影响人工智能的发展轨迹?本文的中央论点是,管理算力可以在人工智能管理中发挥主要浸染。人工智能开拓的其他输入和输出(数据、算法和演习模型)是易于共享的、非竞争性的无形商品,使它们实质上难以掌握;比较之下,人工智能打算硬件是有形的,并且是利用极其集中的供应链而生产的。 政策制订者已经就算力问题做出重大决策。政府已经在本国算力生产上投入了大量资金,对竞争国家发卖打算硬件履行出口牵制,并对大型科技公司以外的打算利用权进行补贴。然而,这些早期的步骤并没有穷尽通过干预算力来勾引人工智能发展和支配的潜在办法。这表示还有更多的方法和策略可以探索和履行,以影响人工智能的发展和运用。本文磋商了算力如何在三个关键管理领域发挥浸染,而不是制订详细政策:首先,算力管理可以帮助提高监管机构对人工智能能力和利用的可见性;其次,算力管理可以通过改变资源分配,向安全和有益的人工智能用场转变,勾引人工智能的进展;末了,算力管理可以加强对恶意开拓或利用的禁令实行力度。 然而,正如算力本身并不能决定人工智能的能力一样,算力管理也不是人工智能管理的全部。例如,可能须要超出算力管理的方法来办理小规模利用算力的问题。此外,如果履行不当,算力管理可能对隐私和其他关键代价构成风险。由于算力管理仍处于起步阶段,政策制订者在管理其意外后果方面的履历有限。为了降落这些风险,我们建议履行关键的保障方法,如专注于工业规模的算力管理,并纳入保护隐私的做法和技能。 二 人工智能能力、人工智能管理和现在的算力管理 本节首先描述了人工智能能力是如何开拓形成的,以及算力在此过程中所起的浸染。其次,定义了人工智能管理,先容了算力管理与人工智能管理的关系,末了大略解释了现在的算力管理。 (一)人工智能能力 人工智能是指构建数字系统的科学和工程,这些系统能够实行常日被认为须要智能的任务,这种行为常日是通过学习而不是直接编程实现的。开拓人工智能能力的三个关键技能要素是数据、算法和算力,也被称为“人工智能三要素”。人们供应必要的科学技能和专业知识(人才或人力成本)来折衷人工智能三要素,以产生演习有素的模型。 数据、算法、算力和人力成本在人工智能的开拓和支配中都发挥着关键浸染。数据是算力处理的原材料,换句话说,算力是由大量数据驱动的“引擎”;算法决定了在数据上实行哪些操作以产生人工智能能力。算法涵盖了从人工智能模型架构到演习中所采取的详细方法论的源代码;算力(以及干系的硬件和软件)用于实行算法,并作为人工智能中信息处理所涉及的“基质”;末了,人力成本对付生产数据、算法和算力以及运行演习过程本身都至关主要。 算力在最近的人工智能进展中发挥了特殊突出的浸染。大约在2010-2012年深度学习时期到来,得益于最初利用GPU来演习人工智能系统。这使得人工智能系统的规模显著增长,为“深度学习”中的“深度”供应了可能。人工智能芯片为人工智能演习和推理供应了显著的打算效率提升,这些芯片针对人工智能事情负载进行了优化,能够在更短的韶光内处理更多的数据,并减少能源花费。随着技能的进步,算力将连续在推动人工智能发展和运用方面发挥关键浸染。 (二)人工智能管理 首先,人工智能管理是指对当地和环球管理体系(包括规范、政策、法律、流程和机构)的研究或实践,这些体系管理人工智能的研究、开拓、支配和利用。其次,随着人工智能系统在各领域的能力不断增强,它们在医疗保健、能源、娱乐以及许多其他商业和公共做事领域都具有潜在的极其有益的运用。人工智能系统的广泛利用将对生产力和生活水平产生积极影响,但实现的利益将取决于所采取的监管和管理构造。人工智能也可能带来更为极度的风险。这些风险大规模影响行动、生物武器、对国际稳定的威胁以及由于目标不一致人工智能可能故意造成侵害的可能性等。对这些风险的管理不当可能导致人类权力损失乃至灭绝。总的来说,算力管理是人工智能管理的工具之一。人工智能管理的其他工具还包括在测试或评估中建立模型性能标准,以及制订关于演习数据、技能方法和生产人工智能所用职员的规则。 (三)现在的算力管理 天下各国政府已经将算力作为目标。这紧张是在地缘政治的背景下,各国政府为确保本国能够发达发展人工智能革命,并防止对手已证明或可能的滥用。本文指出这一点,并不是说目前的做法是明智或有效的。但这表明,算力管理并不是一个纯理论的想法,算力管理已经在发生,目前算力管理实例紧张有以下四个:投资海内算力、为大科技公司之外的职员利用算力供应补贴、对竞争国家履行出口牵制以及设定基于算力的报告门槛。 三 为什么算力管理对政策制订具有吸引力? 在本节中,我们将从两个方面阐述为什么算力是人工智能管理的一个有力的杠杆。首先,算力在开拓和支配尖端人工智能系统中发挥着至关主要的浸染。在其他条件相同的情形下,打算量是衡量一个别系在开拓和支配过程中潜在影响的最可靠指标之一。随着用于演习人工智能系统的算力的增加,人工智能系统会不断发展出更繁芜的能力。因此,在过去十年中,用于演习前沿系统的打算量迅速增加。演习完成后,模型的影响与其支配的广泛程度干系;一些前沿人工智能系统被支配给数百万用户,这也须要大量算力。 其次,对算力的管理在技能上是可行的:社会彷佛可以监控和限定用于开拓和支配人工智能的打算资源。这得益于算力的四个特点:可探测性、可打消性、可量化性和供应链集中性。打算硬件是一种可竞争的实物商品,可以识别、打算和跟踪;由于生产硬件的供应链存在几个关键瓶颈,因此这一点变得更加随意马虎。比较之下,其他许多投入和产出(包括演习数据、算法和演习模型)都是易于共享、非竞争性的无形商品。此外,打算硬件可以用相对客不雅观的办法量化(如每秒运算次数、通信带宽和内存等技能特色),从而可以量化开拓人工智能系统所用的整体打算量。而险些所有其他投入(尤其是人力成本)都难以量化。 四 算力可提高人工智能管理能力的办法 第三节中的论点让我们有情由进一步磋商如何通过算力来管理人工智能。在本节中,我们认为至少可以通过三种关键办法利用算力来提高社会管理人工智能的能力,包括提高政策制订者对人工智能的可见性、分配人工智能能力以及加强规范和法律的实行。 (一)提高政策制订者对人工智能的可见性 可见性是指理解行为者如何利用、开拓和支配人工智能的能力,以及理解哪些行为者与前沿人工智能模型的开拓和支配最为干系的能力。这种可见性至关主要:它使决策者能够预见问题,做出更准确的决策,跟踪国家内部的关键成果,并会谈和实行国家间的协议。例如,管理人工智能的新国际机构、条约或更多非正式的建立信赖方法。 利用算力提高监管可见性的四种政策机制: 1.利用有关打算量的公共信息来估算参与者现在和未来的人工智能能力; 2.哀求云供应商和人工智能开拓职员报告大规模演习模型的算力的利用情形; 3.通过建立国际人工智能芯片注册机构来跟踪尖端人工智能芯片的流动和库存; 4.监控隐私保护事情量。 (二)分配人工智能能力 分配是指通过改变人工智能能力在不同参与者和项目之间的分配来勾引和影响人工智能发展轨迹的能力。例如,政府可能希望勾引人工智能的发展(如纠正市场失落灵,使其向有益和防御性用场发展,抑制有害和恶意用场,增加以公共利益为导向的人工智能发展比例,或扩大人工智能能力的获取路子)。 通过分配勾引人工智能发展的四种现有和拟议实例: 1.有差异地推进有益的人工智能发展; 2.在国家之间和国家内部重新分配人工智能的开拓和支配; 3.改变人工智能发展的整体步伐; 4.互助开展人工智能大型联合项目。 (三)加强规范和法律的实行 司法是指对违反人工智能干系规范或法律的行为做出反应的能力,如违反既定安全哀求的冒失开拓和支配,或蓄意恶意利用技能。就广义的人工智能管理而言,司法可以通过法律制度、非正式社会规范、行业自律或其他程序等机制进行。 利用算力实行法规的示例方法: 1.通过芯片到芯片网络的物理限定逼迫实行“打算上限”; 2.履行基于硬件的远程实行机制; 3.通过多方掌握防止风险演习的运行; 4.对根本举动步伐即做事(IaaS)实体的算力资源履行数字掌握。 五 算力管理的风险和可能的缓解方法 虽然如上所述,通过算力管理人工智能具有巨大潜力,但将算力管理推向极度——尤其是将其作为可见性和逼迫实行的工具时可能会带来巨大风险,决策者应谨慎评估。正如在上文强调的那样,算力管理是一把双刃剑:它可以被用来促进安全等广泛认同的目标,但也可以被用来陵犯公民自由、扶持权贵和巩固专制制度。例如:对隐私的威胁,更多透露商业敏感信息的机会,以及其他负面经济影响等。此外,算力管理是人工智能管理的一个有效的工具,但算力管理也有一定的局限性,包括:算法和硬件方面的进步;具有危险能力的低打算专用模型;以及躲避、规避和脱钩。末了,我们提出了几项戒备上述问题的总体建议,包括:专注于为人工智能超级打算机设计的人工智能芯片(尽可能打消消费级硬件);利用保护隐私的实践和技能;在事前方法合理的情形下,方向于采取基于打算的方法来应对风险;定期重新核阅受控打算技能;在履行所有掌握方法时,采纳本色性和程序性保障方法;利用可管理的算力来保护社会免受不可管理的算力带来的风险。 六 结论 在人工智能能力的各种输入中,算力具有独特的属性,它对打算密集型前沿人工智能模型的管理尤为主要。过去几年中著名的人工智能管理建媾和实践都反响了这一认识。通过本文,我们希望能从理论上更好地理解算力管理作为人工智能管理载体的前景和局限,并引发人们对算力管理未来的更多创造性思考。
免责声明:本文转自元计策。文章内容系原作者个人不雅观点,本"大众号编译/转载仅为分享、传达不同不雅观点,如有任何异议,欢迎联系我们!
转自丨元计策
研究所简介
国际技能经济研究所(IITE)成立于1985年11月,是从属于***发展研究中央的非营利性研究机构,紧张职能是研究我国经济、科技社会发展中的重大政策性、计策性、前瞻性问题,跟踪和剖析天下科技、经济发展态势,为中心和有关部委供应决策咨询做事。“环球技能舆图”为国际技能经济研究所官方微信账号,致力于向公众通报前沿技能资讯和科技创新洞见。
地址:北京市海淀区小南庄20号楼A座
电话:010-82635522
微信:iite_er
本文系作者个人观点,不代表本站立场,转载请注明出处!