霍金演讲：人工智能也可能是人类文明的终结者_人工智能_人类

2024-12-13 09:04:06 科技快讯

霍金演讲稿双语全文&采访对话稿

霍金演讲：人工智能也可能是人类文明的终结者_人工智能_人类科技快讯

一、人工智能，要么是最好的，要么是最糟的

在我的生平中，我见证了很多社会深刻的变革。
个中最深刻，同时也是对人类影响进步神速的变革便是人工智能的崛起。

大略来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。

是好是坏，我不得不说我们依然不能确定。
但我们该当竭尽所能，确保其未来发展对我们的后代和环境有利。

我们别无选择。
我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到办理。

人工智能的研究与开拓正在迅速推进。
大概科学研究该当停息少焉，从而使研究重点从提升人工智能能力转移到最大化人工智能的社会效益上面。

基于这样的考虑，美国人工智能协会（AAAI）于2008至2009年，成立了人工智能长期未来总筹论坛。
他们近期在目的导向的中性技能上投入了大量的关注。
但人工智能系统的原则依然必须要按照我们的意志事情。

跨学科研究可能是一条可能的提高道路：从经济、法律、哲学延伸至打算机安全、形式化方法，当然还有人工智能本身的各个分支。

文明所提产生的统统都是人类智能的产物，我相信生物大脑总有一天会达到打算机可以达到的程度，没有实质差异。
因此，它遵照了“打算机在理论上可以模拟人类智能，然后超越”这一原则。

但我们并不愿定，以是我们无法知道我们将无限地得到人工智能的帮助，还是被唾弃并被边缘化，或者很可能被它毁灭。
的确，我们担心聪明的机器将能够代替人类正在从事的事情，并迅速地消灭数以百万计的事情岗位。

在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧这样这个结果，即创造一个可以等同或超越人类的智能的人工智能：人工智能一旦分开束缚，以不断加速的状态重新设计自身。

人类由于受到漫长的生物进化的限定，无法与之竞争，将被取代。
这将给我们的经济带来极大的毁坏。
未来，人工智能可以发展出自我意志，一个与我们冲突的意志。

很多人认为人类可以在相称长的韶光里掌握技能的发展，这样我们就能看到人工智能可以办理天下上大部分问题的潜力。
但我并不愿定，只管我对人类一向持有乐不雅观的态度。

二、人工智能对社会所造成的影响，须要负责调研

2015年1月份，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信。
目的是提倡就人工智能对社会所造成的影响，做负责的调研。

在这之前，埃隆·马斯克就警告过人们：超人类人工智能可能带来不可估量的利益。
但如果支配不当，则可能给人类带来相反的效果。
我和他同在“生命未来研究所”担当科学顾问委员会的职务，这是一个旨在缓解人类所面临的存在风险的组织。

之条件到的公开信也是由这个组织起草的。
这个公开旗子暗记召展开可以阻挡潜在问题的直接研究，同时也收成人工智能带给我们的潜在利益，同时致力于让人工智能的研发职员更关注人工智能安全。

对付决策者和普通大众来说，这封公开信内容翔实，并非骇人听闻。
大家都知道人工智能，我们认为这一点非常主要。
比如，人工智能具有拔除疾患和穷苦的潜力，但是研究职员必须能够担保创造出可控的人工智能。

那封只有四段笔墨，题目为《应优先研究强大而有益的人工智能》的公开信，在其附带的十二页文件中对研究的优先次序作了详细的安排。

在过去的20年或更永劫光里，人工智能一贯专注于培植智能代理所产生的问题，即：在特定环境下可以感知并行动的各种系统。

智能是一个与统计学和经济学干系的理性观点。
普通地讲，这是一种能做出好的决定、操持和推论的能力。
基于这些事情，大量的整合和交叉孕育被运用在人工智能、机器学习、统计学、掌握论、神经科学以及其它领域。

共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功。

例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

随着这些领域的发展，从实验室研究到有经济代价的技能形成了良性循环。
哪怕很小的性能改进，都会带来巨大的经济效益，进而鼓励更长期、更伟大的投入和研究。
目前人们广泛认同，人工智能的研究正在稳步发展，而它对社会的影响很可能还在扩大。

潜在的好处是巨大的，乃至文明所产生的统统，都可能是人类智能的产物。
但我们无法预测我们会取得什么成果，这种成果可能是被人工智能工具放大过的。

正如我说的，拔除疾病和贫穷并不是完备不可能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是非常主要的。

三、从短期和长期看人工智能

现在，关于人工智能的研究正在迅速发展，这一研究可以从短期和长期来分别谈论。

短期担忧:

1.无人驾驶。

从民用无人机到自主驾驶汽车。
在紧急情形下，一辆无人驾驶汽车不得不在小风险的大事件和大概率的小事件之间进行选择。

2.致命性智能自主武器。

它们是否该被禁止？如果是，那么“自主”该如何精确定义。
如果不是，任何利用不当和故障的过失落该当如何被问责。

3.隐私的担忧。

由于人工智能逐渐开始解读大量监控数据，会造成隐私上的担忧，以及如何管理因人工智能取代事情岗位带来的经济影响。

长期担忧紧张是人工智能系统失落控的潜在风险。

随着不遵照人类意愿行事的超级智能的崛起，强大的系统可能会威胁到人类发展。
这种错位是否会发生？如果会，那些情形是如何涌现的？我们该当投入什么样的研究，以便更好的理解和解决危险的超级智能崛起的可能性，或智能爆发的涌现？

当前掌握人工智能技能的工具，例如强化学习，大略实用的功能，还不敷以办理这系统失落控的问题。
因此，我们须要进一步研究来找到和确认一个可靠的办理办法来掌控这一问题。

比来的里程碑，比如之条件到的自主驾驶汽车，以及人工智能赢得围棋比赛，都是未来趋势的迹象，巨大的投入倾注到这项科技。
我们目前所取得的造诣，和未来几十年后可能取得的造诣比较一定相形见绌。

而且我们远不能预测我们能取得什么造诣。
当我们的头脑被人工智能放大往后，大概在这种新技能革命的赞助下，我们可以办理一些工业化对自然界造成的危害。
关乎到我们生活的各个方面都即将被改变。

简而言之，人工智能的成功有可能是人类文明史上最大的事宜。

但人工智能也有可能是人类文明史的闭幕，除非我们学会如何避免危险。
我曾经说过，人工智能的全方位发展可能招致人类的灭亡。
比如最大化利用智能性自主武器。
今年早些时候，我和一些来自天下各国的科学家共同在联合国会议上支持其对付核武器的禁令。
我们正在发急的等待协商结果。

目前，九个核大国可以掌握大约一万四千个核武器，它们中的任何一个国家都可以将城市夷为平地，放射性废物会大面积污染农田，最恐怖的危害是诱发核冬天，火和烟雾会导致环球的小冰河期。

这一结果使环球粮食体系崩塌，末日般动荡，很可能导致大部分人去世亡。
我们作为科学家，对核武器承担着分外的任务。
正是科学家发明了核武器，并创造它们的影响比最初预想的更加恐怖。

我对人工智能的灾害磋商可能惊吓到了各位。
很抱歉。
但是作为本日的与会者，主要的是，在影响当前技能的未来研发中，你们要清楚自己所处的位置。

我相信我们联络在一起，来呼吁国际条约的支持或者签署呈交给各国政府的公开信，科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。

去年10月，我在英国剑桥建立了一个新的机构，试图办理一些在人工智能研究快速发展中涌现的尚无定论的问题。
“利弗休姆智能未来中央”是一个跨学科研究所，致力于研究智能的未来，这对我们文明和物种的未来至关主要。

过去我们花费大量韶光学习历史，虽然深入去看，可能大多数是关于屈曲的历史。
以是现在人们转而研究智能的未来，是令人欣喜的变革。

我们对潜在危险有所意识，我内心仍秉持乐不雅观态度，我相信创造智能的潜在收益是巨大的。
大概借助这项新技能革命的工具，我们将可以减少工业化对自然界造成的侵害。

我们生活的每一个方面都会被改变。
我在研究所的同事休·普林斯承认，“利弗休姆中央”能建立，部分是由于大学成立了“存量风险中央”。
后者更加广泛地核阅人类潜在问题，而“利弗休姆中央”的重点研究范围则相对狭窄。

四、人工智能的最新进展

人工智能的最新进展，包括欧洲议会呼吁起草一系列法规，以管理机器人和人工智能的创新。
令人些许惊异的是，这里涉及到了一种形式的电子人格。
以确保最有能力和最前辈的人工智能尽到其应尽的权利和任务。

欧洲议会发言人评论说，随着日常生活中越来越多的领域日益受到机器人的影响，我们须要确保机器人无论现在还是将来，都为人类而做事。

向欧洲议会议员提交的报告，明确认为天下正处于新的工业机器人革命的前沿。
报告等分析了是否该当给机器人供应作为电子人的权利。
这等同于法人（的身份），大概有可能。

报告强调，在任何时候，研究和设计职员都应确保每一个机器人设计都包含有终止开关。
在库布里克的电影《2001太空漫游》中，出故障的超级电脑哈尔没有让科学家们进入太空舱，但那是科幻。
我们要面对的则是事实。

奥斯本·克拉克跨国状师事务所的合资人，洛纳·布拉泽尔在报告中说，我们不承认鲸鱼和大猩猩有人格，以是也没有必要急于接管一个机器大家格。
但是担忧一贯存在。

报告承认在几十年的韶光内，人工智能可能会超越人类智力范围，人工智能可能会超越人类智力范围，进而寻衅人机关系。

报告末了呼吁成立欧洲机器人和人工智能机构，以供应技能、伦理和监管方面的专业知识。
如果欧洲议会议员投票附和立法，该报告将提交给欧盟委员会。
它将在三个月的韶光内决定要采纳哪些立法步骤。

在人工智能发展进程中，我们还该当扮演一个角色，确保下一代不仅仅有机会还要有决心。
在早期阶段充分参与科学研究，以便他们连续发挥潜力，帮助人类创造一个更加美好的的天下。
这便是我刚谈到学习和教诲的主要性时，所要表达的意思。
我们须要跳出“事情该当如何”这样的理论磋商，并且采纳行动，以确保他们有机会参与进来。

我们站在一个俏丽新天下的入口。
这是一个令人愉快的、同时充满了不愿定性的天下，而你们是先行者。
我祝福你们。

问答环节

中国科技大咖、科学家、投资家和网友发问霍金（在百万网友的关注中筛选出的七个问题）

Q1：创新工场的CEO李开复：

互联网巨子拥有巨量的数据，而这些数据会给他们各种以用户隐私亲睦处换取暴利的机会。
在巨大的利益诱惑下，他们是无法自律的。
而且，这种行为也会导致小公司和创业者更难创新。
您常谈到如何约束人工智能，但更难的是如何约束人本身。
您认为我们该当如何约束这些巨子？

A1：

据我理解,许多公司仅将这些数据用于统计剖析,但任何涉及到私人信息的利用都该当被禁止。
会有助于隐私保护的是，如果互联网上所有的信息，均通过基于量子技能加密，这样互联网公司在一定韶光内便无法破解。
但安全做事会反对这个做法。

Q2：猎豹移动CEO傅盛：

“灵魂会不会是量子的一种存在形态？或者是高维空间里的另一个表现？

A2：

比来人工智能的发展，比如电脑在国际象棋和围棋的比赛中降服人脑，都显示出人脑和电脑并没有实质差别。
这点上我和我的同事罗杰·彭罗斯恰好相反。
会有人认为电脑有灵魂吗？对我而言，灵魂这个说法是一个基督教的观点，它和来世联系在一起。
我认为这是一个童话故事。

Q3：百度总裁张亚勤：