《西部天下》讲述了在一个以美国西部为主题的大型主题公园里，园方利用搭载超高人工智能的仿生人作为做事职员，让游客进入完备沉浸式的角色扮演体验的科幻故事。

在第一季中，随着剧情的展开，西部天下主题公园中的做事机器人开始像每一部赛博朋克作品中的人工智能那样开始觉醒、逃离、反抗。

凭借大略设定根本上繁芜的故事线设置和别出心裁的剪辑技巧，《西部天下》剧集在播出后得到了极高的反响。
在豆瓣上，《西部天下》的第一季收成了14万余人的评价，评分高达 8.8 分，第二季目前评分 9.2 分。

《西部天下》的导演乔纳森·诺兰表示，这部剧的火热反应了大众对人工智能的焦虑与思考。

如果你还没有开始看西部天下第二季，不用担心，本文不会谈论第二季的剧情和新增设定。
我们只想顺着《西部天下》的方向，去思考一下它对现实中人工智能发展的意义。

机器人在短期内不会变为现实，但《西部天下》对AI仍有辅导意义

《西部天下》中对接待员人格觉醒的定义和对“故事”的定义，都有助于为办理现实中的AI问题供应一些思路。

首先，便是算法的代价不雅观问题

在谈到《西部天下》剧情对这个现实问题的辅导意义之前，我们不妨先理解一下《西部天下》天下不雅观下的算法。

在《西部天下》中，抵牾被描述为人工智能觉醒并形成自我人格的一种关键成分，这起源自美国上世纪70年代一种并不主流的生理学理论“二分心智”。

在第一季的结尾，机器人梅芙放弃了坐上火车混入人类天下的自由之路，而选择了回到主题公园探求自己的女儿，这是西部天下中机器人算法抵牾性最集中的表示。

《西部天下》的科学顾问、斯坦福大学的一位神经学家，大卫·伊格尔曼（David Eagleman）在接管《科学》杂志采访时谈到了这个灵感的来源。

“人类总是能在头脑入耳到很多个声音，比如我给你一个冰淇淋，一个声音见告你‘太好了，我现在就想吃甜食’，另一个声音见告你‘不，这会让你变胖’……这让我想到了对抗网络。
”

这与近两年在推举算法盛行之后开始兴起的“算法代价不雅观”问题交相呼应。

在推举算法驱动的信息流中，由人工编辑插入逼迫置顶的内容并不一定能取得最好的效果。

比较之下其它由算法推举的内容更合他们的口味、更具吸引力也更不可抗拒，因此用户可能会直接忽略那些被逼迫加入的内容。

“二分心智”这一设定给我们的启迪是，也容许以用对抗网络来办理信息流的代价不雅观问题。
什么是对抗网路呢？以图片天生技能为例，一个范例的对抗网络是这样的：

假设我们有一个图片天生模型（generator），它的目标是天生一张真实的图片。
与此同时我们有一个图像判别模型（discriminator），它的目标是能够精确判别一张图片是天生出来的还是真实存在的。

那么如果我们把刚才的场景映射成图片天生模型和判别模型之间的博弈，就变成了如下模式：天生模型天生一些图片 → 判别模型学习区分天生的图片和真实图片 → 天生模型根据判别模型改进自己，天生新的图片 → ····

在推举算法驱动的信息流中，我们可以假定目前的、基于兴趣向读者天生感兴趣内容的全体引擎为天生模型，而其余一个用于辨别全体信息流是否呈现正向代价的引擎为判别模型。

通过这样演习而成的信息流就会有两重的内在“声音”，一个声音说“这个内容，读者会非常喜好”，另一个则说“不，这是一条谣言会带来不良的后果”，而两个声音终极会形成一个平衡。

第二，是AI道德与伦理问题

从很大程度上，在第一点启迪中，对抗算法只是我们为算法授予代价不雅观的个中一个路子。
而《西部天下》中揭示了更多我们该当如何为算法授予代价不雅观的辅导思想。

在《西部天下》的剧情中，机器人觉醒或者说开始分开原有轨迹的方法，是让所有的“心声”都来自自己而非原来写好的程序。

这个中蕴含着另一个启迪，即在面对技能带来的问题时，我们总还是该当用技能的问题去办理。

换句话说，如果AI在提高生产力的同时导致了一个问题，那么我们同样该当用AI去办理它，而不应将人类和人类伦理摆到它的对立面。

目前，无论是在海内还是国外，办理人工智能伦理和代价不雅观问题上的思路倾向于从算法外部加入人的成分去办理。

无论是腾讯、今日还是外国的Facebook，我们常常谈到的办理人工智能代价不雅观问题的方法便是投入更多的审核职员。

这在短期内彷佛是一个不错的办理方法，但从长期内彷佛变成了一场人与AI之间的猫鼠游戏，而正像《西部天下》中描述的那样，人工智能比我们更强大、更迅速、学习能力更强，人类并不一定总会赢得战役。

为什么人工智能发展到本日，已经可以为我们做出许多决策和参考，却依然不能很好的发展出内在道德与规范呢？

大卫·伊格尔曼在表示，人工智能在理解道德和法律上存在先天毛病。

在《西部天下》中所有的招待员被设定为像人类一样活动。
因此他们会用饭、会睡觉、会饮酒，但无论在《西部天下》还是现实中，机器人本身实在并不须要这些行为，也因此不会衍生出诸如“餐桌礼仪”这样的道德文化。

《西部天下》中机器人的这些行为源自于他们相信自己是人类并且有一段属于自己的“背景故事”。

大略来说，是女主角多洛莉丝的“背景故事”让她表现的像是一个淑女，让她喜好绘画，能够创造统统事物中的俏丽。
而并非程序员去定义她的每一个详细的爱好。

而一旦“背景故事”改变，多洛莉丝依然善于绘画，也能够理解那些原来俏丽的事物，但她不在表现出对这些美好的事物和蔼可亲。

这与人类不同，在认知理论中认为人类道德同时来源与先验、后验和超验，而目前人工智能学习道德的方法只来自于后验。

如果未来我们真的发明出了如《西部天下》那样的机器人，那么他们可以不眠不休的事情，因此他们将忽略千百年来人类为自己争取的劳动福利。

乃至愈甚——如果他们认可“劳动最光荣”这个道德理念，那么他们可能会认为人类对合理安歇的需求是一种

回到现实领域，由于大多数的AI算法都运用于商业领域，企业的逐利行为是演习算法的唯一反馈。
而对算法在道德和法律上的哀求，每每来自于企业外部的舆论环境、社会压力和法律哀求。

这也意味着伦理和道德并没有像《西部天下》那样，作为一种先验知识被直收受接管入到机器学习的过程之中，而被作为一种针对机器学习成果的事后填补。

这种以补丁办法为人工智能增加伦理与道德的方法，周期可能是几个月乃至是几年。
比拟人工智能为了达成其固有目的每天都在进行的成千上万次演习，在演习度上是显然不足的。

而以人类手工对算法的“道德缺点”进行纠正的方法，则更是让人类站在了与机器博弈的态度上，而人类又怎么可能与逐日处理PB级数据的机器较劲呢？

科学家们是怎么想的

关于《西部天下》究竟为我们带来了什么，个中哪些是真实的问题而哪些又是不切实际的，终极还是要由现实中的学者来评述。

近期，外国媒体CNET在它的一期节目中，采访了大量与《西部天下》中所述未来干系学科的大学教授。

在节目中，由于学科不同这些专家对《西部天下》褒贬不一，但大多数专家都认为作为一个艺术作品《西部天下》绝对是他们看到的最故意思的作品之一。

比如，杜克大学电子与打算机工程系副教授Kris Hauser说：“从科幻的角度来看，这是一个非常有趣的作品。
但我一贯在想，如果有一天仿生人真的发展到这个程度，一个机器人版迪士尼乐园不一定是它最好的运用。
”

昆士兰大学昆士兰脑研究所Geoff Goodhill教授和布朗大学打算机科学教授Michael L. Littman则同时表示了“这绝对是一个非常棒的故事，但里面的技能完备不接地气或是离我们特殊迢遥”。

杜克大学机器工程和材料科学助理教授Leila Bridgeman在看完第一季之后表示他对剧集的欣赏来自于令人惊叹的故事讲述技巧和哲学问题的思考，并不来自个中的科技元素。

但是，思考自己的某些研究可能能够为（未来）构建《西部天下》中的机器人所用，会使事情变得更加有趣。

他谈到，上个学期一个他所在的部门的研讨会中演讲者提到的生物对机器人研发的启迪就与《西部天下》中的机器人息息相关。

当然，现实中的仿活气器人动作都非常有限，但人类正在构建这种根本。
作为一名掌握工程师，他喜好想象自己的研究会在《西部天下》那样的机器人之中发挥浸染，这使他有提高的动力。

“我们花费上百年才理解了单一细胞的构造，可能要花上千年以上才能理解人类的大脑。
因此，我们未来会在生活中利用机器人，但绝对不是《西部天下》里这种，它完备是一个艺术演出。
”南加州大学工程实践教授Victor S. Adamchik如此评价。

比较之下，社会科学专家彷佛更随意马虎被《西部天下》的剧情所误导，他们思考的是“这种情形如果发生了怎么办”。

格里菲斯大学社会技能研究讲师David Tuffley表示：“西部天下主题乐园是一个阔别法律与戒律的试验场，从这里可以窥伺人们放肆他们最猖獗的抱负，没有人会被定罪，或乃至留下污点。

这绝对会成为高等人工智能的一个用途，像这种超逼真的拟人机器人也是可行的。
大概不会太迢遥，十到二十年之后，我们就能在现实天下中看到类似西部天下的产品，只管细节可能不同，但《西部天下》里发生的剧情完备可能复现。
”

RMIT打算机科学与软件工程副教授Fabio Zambetta也对这一不雅观点表示了赞许，他认为《西部天下》值得称道的地方便是略过了无论若何阐明都会漏洞百出的技能细节，直接假定这种技能已经实现从而可以让不雅观众去磋商一旦技能发展到这种程度之后所产生的问题。

而这种思考也是《西部天下》编剧乔纳森·诺兰希望大家思考的，在接管媒体采访时，他表达了自己对《西部天下》创作与AI的意见：

“《西部天下》这部作品是一种抱负和比喻，它所描述的（那座公园）并不一定会真的成为现实，但它所表达的问题可以指代任何人工智能，包括目前的人工智能。

事实上，我们已经在利用 Siri 和其它语音助手来实现《西部天下》中的一些事情，比如帮你安排日程表、帮你筛选***、帮你剖析金融数据，我们不再亲力亲为并且相信机器不会对我们撒谎。

而事实证明，个中的一些人工智能已经碰着了麻烦，比如Facebook。
我们本该当在问题发生之前预见到这些问题。
”

与第一季不同，《西部天下》第二季的剧情展现了更多人与机器人，机器人与机器人之间的冲突。

这除了让剧集本身更加精彩之外，也引发了人们更深层次的思考和焦虑。

如果你还没有开始看的话，不妨带着这些问题一起再次进入西部天下。

作者：王健飞，腾讯研究院研究员