来源| 喜马拉雅FM复旦郁喆隽的佳构课《郁喆隽的复旦哲学课》

编辑| 周杭

这两年传统工业中最火的莫过于机器手，机器人。
以美的收购德国库卡为标志，海内开始盲目信赖机器手，机器人。
工业制造中，缺人，涨人为，环保，2018年最头痛问题。
机器手，机器人利用而生，再加受骗局宣扬，家当升级，自动化什么的，很多工厂盲目上机器手，隽誉设备升级，家当优化，反正别人厂有的我厂要有，别人厂没有的我厂也要，设备上风。
有时看朋友圈常常看到做机器手发卖朋友说“恭喜某某厂升级机器手，你们再不上机器手就后进啦”。

如果你喜好看科幻电影，一定常常会看到这样一种胆怯的场景：未来机器人反过来奴役，乃至屠***类，施瓦辛格演的电影《闭幕者》便是这样的。
最近对人工智能的谈论，更加加剧了这种担忧。
以是，我们如何才能当心和预防机器人和人工智能？

这时候，我们就要来谈一谈“机器人三法则”（ThreeLaws of Robotics）。
这三个法则是著名的科幻小说家伊萨克·阿西莫夫，在1940年的一篇小说《我是机器人》中提出来的。

这三条法则分别是：

第一条：机器人不得侵害人类，或看到人类受到侵害而袖手旁观。

第二条：机器人必须服从人类的命令，除非这条命令与第一条相抵牾。

第三条：机器人必须保护自己，除非这种保护与以上两条相抵牾。

这三条法则，看上去不是不错？但是实行起来却有不少问题。

有必要说一下的是，英语中的Law这个词具有两种截然不同的含义：第一种是人类社会中的法律和道德律令。
其目的是规范一个政治共同体中成员的基本权利与责任，乃至还要定义犯罪行为，并通过相应程序和机构对之进行审判和惩戒。

第二种含义是自然（科学）中的法则和定律。
例如牛顿力学中的三大定律，它常日是用数学符号的办法来表达的。
上述这两种涵义是根本的不同。
法律在原则上是可以违反的。
我可以考试测验做坏事，例如偷东西，侵害别人等等。

与此相反，自然规律对人来说，是无法违反的。
无论我怎么想，我在地球上都受到引力的浸染。

阿西莫夫的机器人三法则，属于前者，它们类似于伦理与法律，而不是自然法则和定律。
但是正如人类常常违逆神的诫命一样，人工智能为何须定要遵守这些命令呢？如果没有技能的落实和保障，这统统都仅仅是人类的一厢宁愿而已。
人类也面临“造物主”的烦恼。

从语义层面上来看，阿西莫夫的三大法则还有非常多不清楚的地方：以第一条为例，它并未明确定义“人类”和“侵害”。
我们可以设想，未来工程师设计了一种实行护士职能的机器人，它要给病患注射。
注射这个行动是“侵害”吗？

按照我们常日的理解，注射这个行动显然要刺穿人的皮肤，并造成微量的出血。
不过人类的一样平常知识见告我们，这种轻微的侵害可以治愈病患的疾病，并且得到了病患的认可。
在疾病和注射之间，一样平常的成年人经由权衡比较，都会选择接管注射。
但是要让人工智能进行这样的权衡比较，须要极为丰富的知识（commonsense）。

我们再来看第二条：第二条法则中语义存在的漏洞是“服从命令”（obeyorders）这个词。

不过我们可以设想，两个人的命令可能会涌现抵牾。
一个人说，你站着，另一个人说，你坐下。
机器人到底该当听谁的？

第三条法则的核心词是“自己”（itsown existence）。
要明白这一表述的意指，是否须要“自我”（self）的不雅观念，而产生这一不雅观念的条件是人工智能具备自指（self-referential）能力。
这种自指能力实在对人类自己都是一个谜。

针对机器人三大法则存在的问题，阿西莫夫本人后来增加了更有优先性的“第零法则”：机器人必须保护人类的整体利益不受侵害。
即担保机器人追求人类共同体整体的最大福祉。
问题在于，如何定义“整体利益不受侵害”？这会面临传统功利主义的难题。

从微不雅观方面讲，我们可不可以杀去世一个康健的人，把他的器官拿出来给那些等待急需器官移植的人？这样杀去世一个人可以拯救七到八个人，是否符合所谓“人类的整体利益”？

按照人类知识和良知，显然是不可以这么做的。
由于除了人类的整体利益之外，还有许多须要考虑的问题，每个人的个体利益也必须受到尊重和保护。
以是啊，阿西莫夫的机器人三法则虽然算是未雨绸缪，但依然不能彻底杜绝一些基本问题。

那么，你能想出什么办法来，让机器人和人工智能不侵害、奴役人吗？

关于主播：

郁喆隽，集专业深度与大众遍及于一身的哲学小王子。
复旦大学哲学学院副教授，宗传授教化系副主任，德国莱比锡大学哲学博士。

《郁喆隽的复旦哲学课》想陪你认清自己，建立自己

关于喜马拉雅：

随时随地，听我想听！
4.7亿用户的共同选择，听段子听小说听***听音乐，就用喜马拉雅！