掌握论之父维纳在他的名著《人有人的用途》中曾在谈到自动化技能和智能机器之后，得出了一个骇人听闻的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。
很显然，这种新的取代将对我们的生活产生深远影响。
”维纳的这句谶语，在本日未必成为现实，但已经成为诸多文学和影视作品中的题材。
《银翼杀手》《机器公敌》《西部天下》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越方向于谈论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的仆众。

一

维纳的激进言辞和本日普通人对人工智能的担心有夸年夜的身分，但人工智能技能的飞速发展的确给未来带来了一系列寻衅。
个中，人工智能发展最大的问题，不是技能上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。
准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其缘故原由在于，人工智能的伦理学谈论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种分外的产品——根据未来学家库兹威尔在《奇点附近》中的说法——一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情形下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？

实际上，对人工智能与人类之间伦理关系的研究，不能分开对人工智能技能本身的谈论。
在人工智能领域，从一开始，准确来说是允从着两种完备不同的路径来进行的。

首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次分外的研讨会，会议的组织者约翰·麦卡锡为这次会议起了一个分外的名字：人工智能（简称AI）夏季研讨会。
这是第一次在学术范围内利用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。
实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种觉得，包括视觉、听觉、触觉，乃至大脑的思考都变成称作“信息论之父”的喷鼻香农意义上的信息，并加以掌握和运用。
这一阶段上的人工智能的发展，在很大程度上还是对人类行为的仿照，其理论根本来自德国哲学家莱布尼茨的设想，即将人类的各种觉得可以转化为量化的信息数据，也便是说，我们可以将人类的各种觉得履历和思维履历算作是一个繁芜的形式符号系统，如果具有强大的信息采集能力和数据剖析能力，就能完全地仿照出人类的觉得和思维。
这也是为什么明斯基信心十足地流传宣传：“人的脑筋不过是肉做的电脑。
”麦卡锡和明斯基不仅成功地仿照出视觉和听觉履历，后来的特里·谢伊诺斯基和杰弗里·辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，仿照了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出大略的思考。

然而，在这个阶段中，所谓的人工智能在更大程度上都是在仿照人的觉得和思维，让一种更像人的思维机器能够出身。
著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。
图灵测试的事理很大略，让测试一方和被测试一方彼此分开，只用大略的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。
以是，图灵测试的目的，仍旧在考验人工智能是否更像人类。
但是，问题在于，机器思维在作出自己的判断时，是否须要人的思维这个中介？也便是说，机器是否须要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对付人工智能来说，答案是否定的，由于如果人工智能是用来办理某些实际问题，它们根本不须要让自己经由人类思维这个中介，再去思考和解决问题。
人类的思维具有一定的定势和短板，逼迫性地仿照人类大脑思维的办法，并不是人工智能发展的良好选择。

二

以是，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。
如果仿照真实的人的大脑和思维的方向不再主要，那么，人工智能是否能发展出一种纯粹机器的学习和思维办法？倘若机器能够思维，是否能以机器本身的办法来进行。
这就涌现了机器学习的观点。
机器学习的观点，实际上已经成为发展出属于机器本身的学习办法，通过海量的信息和数据网络，让机器从这些信息中提出自己的抽象不雅观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的观点。
这个时候，很难说机器自己抽象出来的猫的观点，与人类自己理解的猫的观点之间是否存在着差别。
不过，最关键的是，一旦机器提炼出属于自己的观点和不雅观念之后，这些抽象的观点和不雅观念将会成为机器自身的思考办法的根本，这些机器自己抽象出来的观点就会形成一种不依赖于人的思考模式网络。
当我们谈论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让常日意义上的围棋定势损失了威力，从而让习气于人类思维的棋手瞬间崩溃。
一个不再像人一样思维的机器，或许对付人类来说，会带来更大的惶恐。
毕竟，仿照人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述大略的结论，由于，根据与人工智能对弈之后的棋手来说，乃至在多次复盘之后，他们仍旧无法理解像阿尔法狗这样的人工智能如何走出下一步棋。

不过，说智能增强技能是对人类的取代，彷佛也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。
对付恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部天下》中那些总是将自己当成人类的机器人一样，他们钻营与人类不相上下的关系。
智能增强技能的目的则完备不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来填补人类思维上的不敷。
比如自动驾驶技能便是一种范例的智能增强技能，自动驾驶技能的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还须要采集大量的舆图地貌信息，还须要自动驾驶的程序能够在影像资料上判断一些移动的有时性成分，如溘然穿过马路的人。
自动驾驶技能能够取代随意马虎疲倦和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。
同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性子的智能，它们不关心如何更像人类，而是关心如何用自己的办法来办理问题。

三

这样，由于智能增强技能带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，以是，两个平面之间也须要一个接口技能。
接口技能让人与智能机器的沟通成为可能。
当接口技能的紧张首创者费尔森斯丁来到伯克利大学时，间隔恩格尔巴特在那里谈论智能增强技能已经有10年之久。
费尔森斯丁用犹太神话中的一个形象——土傀儡——来形容本日的接口技能下人与智能机器的关系，与其说本日的人工智能在奇点附近时，旨在超越和取代人类，不如说本日的人工智能技能越来越方向于以人类为中央的傀儡学，在这种不雅观念的指引下，本日的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类互换的接口技能。
在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也便是说，人类与智能机器的关系，既不是纯粹的利用关系，由于人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。
当苹果公司开拓与人类互换的智能软件Siri时，乔布斯就提出Siri是人类与机器互助的一个最朴实、最优雅的模型。
往后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因朽迈而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技能问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾害，而是一种新的希望。

《光明日报》（ 2019年04月01日 15版）