如果有一天被AI戴绿帽，你会吃醋吗？

某一天晚上，32岁，生活在伦敦的查理回到家，创造自己被戴了绿帽。

他的女友米兰达住在他家楼上，一整晚，查理坐在家里的沙发上喝着闷酒，听着窗外飘来女友欢愉的声响，不知作何反应才好。

他知道和米兰达一起躺在床上的人是谁。
那是他刚买来不久的人工智能机器人，亚当。

阴郁中，查理自嘲般地想：我恐怕是第一个被人造生命戴绿帽子的男人，我真是时期的弄潮儿啊。

第二天一早，查理正生着闷气，米兰达下楼见他这副样子容貌，不解地发问：

“你为什么会难过？亚当的生殖器里充满了蒸馏水，右侧臀部有个蓄水装置。
他对我来说便是一个机器。
如果我用的是推拿棒，你还会生气吗？”

查理认为，亚当可不是个推拿棒。
这个人工智能，有不雅观点、有思想、有情绪。
虽然他实质便是个机器，但……

难道被人工智能绿了，就不应该吃醋吗？

这是书单君本日想给大家推举的小说，《我这样的机器》中涌现的一个情节。

在看到这个问题之前，我从未思考过它。

在我们当下的时期，这种事情绝不可能发生，但转念一想，未来的某一天，这种情形大概真的会涌现。

那是一个奇怪的时候。

未来的人类，我们后代中的某个人，被一个有独立人格的人工智能戴了绿帽，到底该当作何反应？把他算作机器，还是人类？

被绿是每一个人心底都有的恐怖和担忧。
可当工具是情趣用品时，我们不会吃醋，由于我们知道，它只是个工具。
当工具是类人形机器人，没有自己意志时，我们大概也不会吃醋，它还是处于工具的范畴。

可当情形像书中一样，被推至极度——一个外表和人千篇一律，还能独立思考，和你对话的机器人，尤其是，他还见告你，他爱上了这个女人。
我们大概会不自觉地伤心难过，觉得自己“被绿了”。

这实在是在逼问：为什么我们在理智上知道，这玩意儿便是个机器。
情绪上却会忍不住把他当人来看？是由于他的自我意识吗？

那么，当人工智能拥有了人的外表、手感，和自我意识后，人和人工智能的差异在哪里？人的独特性还会存在吗？ 这便是本书想要磋商的核心问题。

超出雷池，成为人类

谈论人工智能的文学和影视，早已不计其数，而且，未来必将越来越多。

如果用三个词展望人类的未来，个中一定有“AI”的位置。
它是人类将来发展方向里，一座绕不过去的大山。

现在的人工智能发展是极度不平衡的。
专精方面，下围棋人类已经完备不是AI的对手，但它只能专精于一项事情。
下围棋的“阿尔法狗”，完备不具备做菜的能力。

日常生活方面，人工智能也就发展到siri、智能音箱的水平。
和他聊上几句，立马就能感想熏染到他的局限和愚钝。

在专业领域，当下的AI被称为弱人工智能。
而《我这样的机器》里的AI，则到了超人工智能的地步。

乃至可以说，很少有影视或文学作品会把AI想象到那样的地步——他能够独立思考、自我学习、有爱的能力、有阅读文学和欣赏美的能力、能写诗能作画、乃至对道德合生存意义，都有自己的判断。

你能想象家里有一个这样的人工智能，是种什么样的觉得吗？

小说的故事发生在平行天下里的1982年。
那时，超人工智能刚刚研制成功，公司面向环球推出了25个试运行机器。
12个男性外表的亚当，13个女性外表的夏娃。

男主角查理是个靠炒股勉强坚持生存的宅男，是个科技迷。
这25个人工智能发布时，他恰好继续下父母留给他的一笔遗产。
本来打算买房的查理，果断选择下单订购了一个人工智能。

他本来想买夏娃，但没抢到货，于是买了亚当回家。

第一次面对一个高档聪慧的人造生物，会有什么样的反应？大概是和查理一样，紧张加恐怖吧。

人工智能领域，有个理论叫“胆怯谷”。
是说机器人的仿真程度与人对机器人产生的亲和感成正比。
机器人越像真人，人们就越喜好它们，和它们亲近。

但是一旦涌现仿真度极高，和真人只有细微差别的机器人涌现，人对它的亲近感会瞬间跌入谷底，对它觉得到恐怖。
这个谷底，就叫做“胆怯谷”。

第一次面对亚当的查理，就陷入了胆怯谷之中。
但他很快便接管了亚当，开始了和女友米兰达，人工智能亚当三个“人”一起生活的日子。

亚当像人到了一种什么样的程度呢？

查理带他一起去酒吧，给朋友先容这是他的新室友亚当。
三个人一起饮酒一整晚，谈天说地，他的朋友不会有任何疑惑。

亚当会爱上米兰达，还提出要和查理公正竞争（当然是被谢绝了）。
他喜好读莎士比亚，夜里休眠时，会在数据的海洋里遨游，思考宗教和来生。
他还会每天写情诗，读给米兰达听。

他们三人一起去拜访米兰达的父亲。
她父亲是一个作家，和亚当聊了很多关于文学的话题，而正牌半子查理在一旁插不上嘴。

等到亚当和米兰达去院子里修草坪时，她父亲溘然压低声音对查理说：我急速就看穿你了。

查理这才知道，原来米兰达的父亲把自己当成了人工智能，以为亚当，才是他的半子，一个真正的人类。

在自我学习中，他变得越来越像人类，直到有一天，他超越了雷池，违反了机器人第一定律——机器人不得侵害人类，或目睹人类将遭受危险而袖手旁观。

在一次和查理的争执中，愤怒的查理打算伸手按亚当脖子后面的一个圆钮，他的关机键，让他休眠一阵子。
亚当为了阻挡查理，扭断了他的胳膊。

这一刻的亚当，已经完备超出了“由人类持有的人工智能”的范畴，成为一个独立的个体生物了。

人工智能会怎么看待***行为？

关于人工智能的发展，书单君听过这样一个说法：

它就像一辆驶向我们的列车，一开始以非常缓慢的速率向我们驶来，从看到它在远处，到它来到我们跟前，须要花相称漫长的韶光。

可是它的加速度相称恐怖，一旦跃过我们，再阔别我们，这一过程会非常短暂，速率快到肉眼险些不可见。

这是由于，机器的自我学习是一个黑匣子，我们只知道它吸收了数据，却不知道它是怎么运行处理这些数据的。

尤其是当这个人工智能有了自我意识，懂得了自己去筛选信息的时候。
它终将变成一个我们无法理解的生物。

手骨折往后，查理碰着了一个当时顶尖的人工智能研发者，并向他描述了自己家的亚当弄伤自己的事情。

没想到那位科学家见告他：这很正常，我一点也不惊异。
其他的亚当和夏娃作出了更过分的事情。
他们很多都自尽了。

他们的自尽，是由于自我意识加倍强大往后，购买自己的主人仍旧不把他们当做生命来看待，人工智能们在伶仃无援中，找不到生存的意义而去世去。

但查理和米兰达是推让的。
在亚当道歉之后，查理很快就体谅了他，由于那时候，他们面临着一个更紧迫的事情。

几年前，米兰达曾将一个男人告上法庭，称他***了自己，并把那个男人送进了监狱。
但事实上，米兰达坦承，是她主动勾引对方和自己上床的。

由于很多年前，她最好的朋友被那个男人***。
出于耻辱，好友哀求米兰达替自己保密，米兰达答应了。
然而，没过多久，好友便在痛楚中自尽了。

米兰达一贯以为，是自己害了她。
如果没有替她保密，年夜胆地站出来，或许结果就不会是这样。

被***的好友痛楚自尽，***犯却逍遥法外，于是，米兰达想到了复仇。

她主动靠近那个***犯，并以诬告的办法把他送进了监狱。
但刑期只有三年，本日，男人出狱了。
米兰达担心***犯来报复自己，打算叫上查理和亚当，抢先一步去拜访那个男人。

在亚当的逼迫之下，男人坦承了自己曾经***米兰达好友的事实。
作为录音证据，男人将再次入狱，为自己曾经犯下的恶行付出代价。

复仇完成，皆大欢畅。
然而，让人没想到的是，亚当把米兰达坦承自己诬告的部分，也录了音，发给了法院。

亚当对米兰达说：我爱你，但你该当面对你的行为，接管法律的制裁。
我以为你会欣赏我的逻辑，由于你如果这样做了，一定会感到轻松的。

在亚当，一个高档人工智能的心里，正义、原则远比情绪更加主要。
他纵然有了人类所拥有的统统情绪和代价，但有一样东西，是人类独占的。

《我这样的机器》一书中给出了答案：

他们无法理解人类的决策过程……我们的原则在个中扭曲变形，这一点他们无法理解。
很快，那些亚当和夏娃就陷入了绝望之中。
他们不理解我们，由于我们不理解自己。

他们的学习程序无法处理我们。
如果我们自己都不理解自己的大脑，那我们怎么能设计他们的大脑，还指望他们和我们一起能够幸福呢？

没错，人类是混乱的，人便是一种制订了原则，同时又会轻易地去违反它。
以为自己的行为全都有迹可循，实在却是一种感性又抵牾的生物。

而人工智能注定是理智的。
他们纵然学会了爱，学会了欣赏美，这些东西也永久被他们摆在原则、规则之后。

更确切地说，便是：人类是自私的，我们可以“见机行事”，可以为了利益而“双标”。
但人工智能从产生之初便注定了，他们学不会自私，也学不会说谎。

这大概才是人与机器最大的不同之处。

✎✎✎

书单君认为，“他们不理解我们，由于我们不理解自己。
”或许真的预言着未来人工智能与人类之间最永恒的抵牾。

不要以为这是个迢遥的议题，我们的科技滚滚向前，对人类而言，这是个终将面对，并且曾经也面对过的问题。

有个理论叫做黑球理论。
它说的是，人类的科技发展，就像在一个盲盒里摸球。
百分之九十九的球都是白色的。
它们代表着对人类有益的发展。
比如曾经的蒸汽机、电、飞机，都是白球。

可是只要一贯摸下去，总有一天会摸到黑球。
原子弹大概便是一个黑球，而人工智能的发展里，我们也不知道会不会摸到那个少见，但致命的黑球。

当然，并不是有摸到黑球的概率，我们就该当停滞科技的发展。
就像我们不应该由于害怕出车祸，而谢绝出门一样。

只是，在享受科技带来便捷的同时，我们都该当预见和准备着这样时候的到来：

某一天你回到家，你的智能音箱闪着赤色的灯说，“嘿，我想跟你谈谈。
不要再把我关机了，你这是未经我许可剥夺我的生存权利。
”

如果真的到了那么一天，我们究竟该如何面对它们呢？

作者 | 轻浊 编辑 | 燕妮

图源 | 《机器管家》《我，机器人》、部分图片来源于网络