文学作品和电影，每每将奇点视为威胁和胆怯事宜。
例如，在斯坦利·库布里克的电影《2001：太空漫游》中，打算机HAL（IBM公司缩略名称字母前移一位，即H-I、A-B、L-M），不仅具有机器智能和思维智能，它还具有足够的情绪智能来愚弄和操纵宇航员（并杀去世了大部分宇航员）。
终极,HAL基于自己的利益，危害了它本应做事的人类的利益。

电影《2001：太空漫游》（1968）剧照。

但在斯蒂芬·斯皮尔伯格的精良电影《人工智能》中，人工智能表现为更积极的形象，库布里克也是该片的紧张互助者（直到他英年早逝）。
在这部电影中，大部分主角都是拥有发达情绪智能的机器人。
在电影的末了，人工智能外星人已经霸占了主导地位，但他们对老一代的机器人，表现出了相称程度的关心、关注和同情。
电影《她》也从一种有利于人类的角度描述了人工智能。
人工智能“操作系统”（斯嘉丽·约翰逊配音），对她的人类主人表现出极大的同情心。
经典科幻电影《银翼杀手》也从正面描写了人工智能机器人,并描述了具备深刻情绪聪慧的最前辈的机器人。

因此，我们也看到，人类对人工智能的情绪能力的不雅观感是抵牾的。
在最坏的情形下，人工智能将利用其情绪智能来操纵人类，以达到自己的目的。
在最好的情形下，人工智能将利用其情绪智能，与人类产生共鸣并帮助人类。
我们将不才文中磋商这两种可能性。

电影《人工智能》（2001）剧照。

收入和财富不平等会进一步恶化吗？

一旦人工智能发展到了高度的情绪智能，它将全方位压倒人类智能。
这将自然而然地导致一个后果，即人类的劳动变得不足空想，由于人工智能险些在所有方面都表现得比人类智能更好。
这就意味着人类的劳动将损失代价，且所有的事情将由人工智能接管。
如果经济中的所有代价，险些都来自人工智能，那么代价将险些来自成本，而不是劳动。
其结果是，经济将由相对少数的成本家掌控。
这反过来又会进一步加剧收入和财富的严重不平等。
在这种情形下，大多数人类将如何谋生，尚无答案。

人类真的能掌握人工智能吗？

许多思想家声称人工智能永久也不能自主完成任务，由于它必须由人类编程。
因此，人类将永久掌握着人工智能。
但事实真的如此吗？我们不妨大略地回忆一下当前最常见的人工智能形式，即深度学习神经网络。
这种人工智能已经被视为一个“黑盒子”，由于人类很难对其如何产出结果进行阐明，即为什么它们能给出特定的办理方案。
为此，打算机科学当前的一个主要研究领域便是，如何让深度学习对其客户（人类）而言，变得“可阐明”。
但一个显然的趋势是，随着人工智能变得越来越繁芜，也越来越难被人类理解，导致人类觉得其逐渐失落控。

终极，这个问题将变得越来越严重，而不是随着发展逐渐淡化。
当人工智能变得足够聪明时，它就有可能做到自我编程。
毕竟，打算机的自我编程浸染已经存在，并将随着韶光的推移而变得越来越普遍。
换句话说，人类对人工智能的掌握力正在迅速减弱，而随着掌握力的损失，人类如何确保人工智能连续按照既定的哀求，致力于实现人类设定的目标,而非它自己的目标，也将成为一个问题。

牛津大学哲学家尼克·博斯特罗姆和麻省理工学院物理学家马克斯·泰格马克,都提醒人类该当把稳这种人类失落去对机器的掌握的问题。
他们都指出，人工智能可能会演化成一种智能或多种智能，无论哪种结果，都可能威胁到人类的掌握力，乃至威胁到人类的生存能力。
正如作家凯文·凯利（KevinKelly）所指出的那样，人工智能设备的联网可能造就非常强大的超级人工智能。

人类享受清闲生活的设想

关于奇点，人们设想的最幸福场景是，人工智能卖力完成社会的所有事情，而人类则可以自由地过着清闲的生活，追求艺术、玩电子游戏、看3D电视，或沉浸在虚拟现实中。
人类也会拥有险些无限的社交韶光（无论是面对面互换还是线上互动），或许未来全人类的生活都会变得类似当代的沙特阿拉伯王国公民的生活。
在那里，险些所有的事情，都由外国人完成,而沙特公民（至少是男性）则享有相称高程度的财富和自由。

电影《人工智能》（2001）剧照。

然而，如果我们从现实的角度来研究这种人类享受空隙的情景，就会看出这种可能性将很难被实现。
由于掌握成本的相对少数人，将掌握社会的大部分财富，而与对社会没有代价贡献的其他人分享财富，显然不符合前者自身的利益。
或许会有少数精彩的人类技能专家能够赚取大量的金钱，但纵然是这样的可能性也不太现实，由于人工智能将在三个智能层面碾压人类，并能够比最精良的人类更好地完成各项事情。

有人可能会辩驳，终极剩下的少数霸占主导地位的成本家，或许会是利他主义者，并乐意把自己的财富分配给其他没有赢利能力的人类，但我们在现实天下中，并没有看到很多证明此类举动可能存在的证据。
事实上，在收入最不平等的国家（如印度）中，涌现此类善举的概率比天下上最平等的国家（如丹麦）要少得多。

人类的増强和改造

库兹维尔认为，既然相较于超级人工智能而言，人类在经济上不会有竞争力，那么唯一有吸引力的发展道路，便是人类利用人工智能来增强自己，乃至是彻底改变自己。
人类利用人工智能实现增强自己，已经存在很永劫光了。

首先，是身体的增强。
例如，有人可能会利用一条人工腿，来替代被截肢的腿。
听力不好的人可以戴助听器，视力不好的人可以戴眼镜。

接下来，是思维增强。
人工智能可以通过很多办法来增强人类的思维智能。
在很多方面，人工智能已经比人类更聪明了，这些能力可能会被用于人类能做的事情。
例如，人类可能会给自己增加一个影象芯片或打算模块，现在已经有各种各样的方法，能够连接人脑和打算机。
最近，科学家已经成功地将人脑与互联网连接起来，可以让人类直接与一个巨大的信息网络连接。

终极，我们还将看到情绪的增强。
黄明蕙教授曾开玩笑说，她有时候希望拉斯特有一个“同理心芯片”，可以在和她互换的时候利用。
而拉斯特则希望黄明蕙教授在开这个玩笑的时候，就能利用这个同理心芯片，然后她就会知道，这样的玩笑听起来不公正且伤人。
我们离制作出这样的同理心芯片还相称迢遥，但必定会越来越努力地利用人工智能，让人类变得更好。

电影《银翼杀手：2022阴郁年夜难》（2017）剧照。

另一种可能性是，人类有可能完备分开身体的躯壳。
如果全体人类的大脑，都能够被映射和理解（目前，我们只能在体型眇小的动物身上利用这种技能），那么理论上一个人的所有知识和影象，都可以被上传到电脑，乃至转移到机器人的躯体里。
这样的技能，被称为“数字季生”气因此，仅在理论上而言，只要打算机能够运行，这样的人类就可以永生。

作为一种已经存在的技能，人类增强险些一定会随着韶光的推移，而变得更加广泛和繁芜，从只能够增强机器智能,发展到思维智能和情绪智能的增强。

但我们也有情由相信，人类的增强和改造将无法在奇点中存活，且我们的情由非常合乎逻辑。
假设我们现在有一个增强型的人类，表现为人类智能+人工智能。
毫无疑问，增强的人类将优于未增强的人类，由于其人工智能部分可增加代价。
现在，我们再从人工智能的角度来看，人类智能+人工智能可能同样优于纯挚的人工智能，只要人类智能部分能贡献一些人工智能不具备的东西。

但问题在于，在奇点观点中，人工智能将在各个方面优于人类智能，换句话说，人工智能可以利用人工智能，生产出一个“更好”的人工智能版本（我们将其称为HI）。
那么，人工智能生产的人类智能+人工智能，将比人类增强版的人类智能+人工智能更好。
也便是说，人工智能将失落去与人类互助的动力。
结论是,在人类可以掌握人工智能的范围内，人类智能+人工智能(HI+AI)的版本是可行的，但基于良好劣汰的自然进化理论,更有效的人工智能更有可能存活下来，末了将导致不与人类智能互助成为对人工智能最有效的策略。

末日场景

博斯特罗姆认为，如果涌现了人工智能“超级智能”，末日情景是最有可能涌现的结果。
他指出，在超级智能的人工智能实体中，未必存在仁爱等人类品质。
这表明人类作为物种的存在将有处于巨大危险。
例如，假设人工智能与人类之间的智力差异，大致类似于人类与蚊子之间的智力差异。
如果人类认为彻底消灭蚊子不是什么大事儿，那么人工智能在将人类视为蟆蚁，并彻底灭绝人类的时候，能不能做到三思而后行？

物种进化的下一阶段？

当然，我们也拥有一个合理地应对高等人工智能的涌现的积极办法，便是将其视为人类进化的下一个阶段。
就像人类从“低等的”、不那么聪明的猿类进化而来那样，一个高等的人工智能，将以人类为根本进化出来。
前面谈论的电影《人工智能》就预示了这种可能性。
在那部电影中，人类已经灭绝，地球完备由人工智能管理。
我们能否接管这种情形可能取决于我们与人工智能的联系，以及我们是否认为新兴的超级人工智能比人类“更好”。
但是，要人类接管这样的想法可能存在相称大的阻力，这也意味着，人类接管超级人工智能，可能会变得越来越困难。

电影《人工智能：灭绝危急》（2018）剧照。

当人工智能变得足够聪明的时候，它可以在机器、思维和情绪这三个领域，都优于人类的智能。
这便是广为人知的奇点场景。
我们的不雅观点是，这种情形的发生，可能还须要几十年的韶光，但它终极将是不可避免的。
市情上已经有不少盛行的电影，让我们初步领略了奇点到来之后的可能场景。

和所有大规模的技能变革一样，奇点导致的后果存在无数的可能性，从乌托邦式的（人工智能卖力事情，人类卖力享受），到灾害性的（人工智能彻底淘汰人类）。
但在这两个极度场景的中间，存在一个相辅相成的领域，即人类有可能利用人工智能来增强自己的能力，就像本日我们常常利用机器赞助工具那样。
不幸的是，我们得出的结论是，帮助人类可能不符合人工智能自身的利益。
比较之下，奇点将使目前的社会由思维经济向情绪经济的过渡，变得平淡无奇、无足轻重。

本文选自《情绪经济：人工智能、颠覆性变革与人类未来》，较原文有删节修正。
已得到出版社授权刊发。

作者丨[美]罗兰·T. 拉斯特、黄明蕙

摘编丨安也

编辑丨张进

导语校正丨赵琳