几千年来，人类的伦理道德问题，从神学著作，到康德的纯粹哲学理论争辩，很难用大略的公式去表达。
在标准版的电车问题中，一辆有轨电车失落去了掌握，即将造成五人去世亡。
有轨电车可以通过改变铁轨上的道岔来改变方向。
然而，这样会导致一名工人被重新改变了方向的电车撞去世。
为了挽救五个人的生命而使铁轨改道，从而造成一名工人的去世亡，在道德上是否许可？根据康德的不雅观点，如果不改变电车的方向，任何人都不能为了救那五个人而危害那一位工人。
从功利主义的不雅观点来看，一个人必须考虑他的行为的后果和总效用，即对大多数人来说有最大的好处，因此他必须改变电车的方向。
伦理理论终极导致了不同的办理方案。

随着人工智能技能与理论的进步，其道德伦理问题也被推进更富有争议的话题：

从1999－2018 年的 Web of Science数据库（以下简称WOS数据库）中，无论因此“人工智能伦理”为主题的文献还是以“机器人伦理”为主题的文献都呈现出显著的增长趋势。
特殊是近十年来，干系文献涌现了井喷式增长1999 至 2015 年文献量的总和。
这样高速的增长趋势，表示出越来越多的学者意识到人工智能伦理研究对付社会发展的主要意义与积极浸染，探索人工智能伦理研究的知识情报有助于人工智能家当以及人类社会的康健发展。

（来源：WOS数据库）

（来源：WOS数据库）

人工智能是造福人类的利器，还是毁掉天下的终极恶魔？

机器人的英文单词是“Robot”, 最早由捷克作家卡雷尔•恰佩克在其科幻作品中创始, 原意是“农奴式被强制的劳动者”。
2017年8月21日，人工智能公司的 116 位创始人和首席实行官们，给联合国写了一封公开信，希望禁止“杀手机器人（即自动化武器，如无人机、无人战车、哨 兵机器人、无人驾驶兵舰等）”的研发与利用。
他们认为，这些机器人有成为胆怯武器的可能。
独裁者和胆怯分子有可能利用这些武器对无辜人群利用，或以其他不可取的办法利用。

然而，2017年10月15日，英国政府在发布的《英国发展人工智能》报告中指出，人工智能具有改进教诲医疗保健、提高生产力的巨大潜力，该报告从数据、技能、研究以及政策的开放与投入等方面，对人工智能发展提出了18条建议，意欲使英国成为人工智能的天下领导者。
英国不是唯一重视人工智能大战的国家，各国都在激情亲切的拥抱这一项技能，每项技能发明都饱负争议，历史见告我们，技能进步确实让人类生活更加的自由了。

人工智能的善恶到底该如何评价？我们应该以何种态度对待人工智能的发展？

学术界有关人工智能道德判断的辩论人工智能的道德判断须要区分两个问题 ：其一，人工智能本身的道德评价问题；其二，人工智能研发与运用后果的善恶评价问题。
对人工智能进行道德判断的关键问题没有办理，即未对人工智能本身善恶评价问题，与人工智能的研发与运用所带来的后果的善恶评价问题进行区分。
后一问题办理的关键还是在人类自身。
但是前一问题的办理，我们就不能基于现有的伦理道德框架对其进行评判，而应对传统的科技伦理进行批驳性反思。

[1] 目前有关人工智能的善恶评价可谓此起彼伏，莫衷一是。

总体而言，学术界紧张存在以下三种态度与不雅观点：

第一种乐不雅观主义态度。

持此种态度的专家学者认为，人工智能只是一项手段与工具，本身无所谓“善与恶”“好与坏”，关键在于利用它的人类本身，对人工智能的未来发展前景持乐不雅观主义态度，总体而言，人工智能的研发与广泛运用对人类发展利大于弊，能产生巨大的经济效益与社会效益。

一样平常而言，乐不雅观主义态度大多是由一些与人工智能研发与运用干系，或出于自身利益考虑的人工智能界人士，或出于对科学技能盲目崇拜的科学主义者所坚持的，其毛病在于片面地、孤立地看待人工智能的积极方面，比如能够产生巨大的经济与社会效益，重构包括金融、医疗、教诲、交通等险些所有的行业，从而推动人类生活办法的整体变革。
他们故意或无意地忽略或者粉饰人工智能的悲观浸染，比如***机器人的出身将会给人类带来安全威胁以及人类过度依赖人工智能文明可能造成人类文明的退化问题，等等。

第二种中立主义态度。

持此种态度的专家学者承认人工智能本身存在“作歹”的可能，它的研发与运用对人类具有潜在威胁，可能带来严重后果，但基于一些情由仍大力支持发展人工智能技能。

人工智能目前尚处于发展的低级阶段，其危害远远不足强大，以是不必过分担忧；例如，人工智能领域的环球领衔剖析师汤姆•奥斯汀表示，霍金等“彻底开拓人工智能会导致人类彻底毁灭”的警告是“非常屈曲”的，其情由在“现在人工智能还很低级”。
“人造的东西不可能超过人”；这一不雅观点源于某种宗教情怀，即“造物主一定比所造之物高明”，以是不用杞人忧天。
令人讽刺的是，本该最具无神论精神的科学主义者，却从宗教信念中寻求思想资源。
“人类可以设定人工智能的道德标准”，但是从未对“人工智能一定会服从人类设定的道德标准”供应过有效的论证；还有人认为只要对人工智能进行道德教诲，就可以担保他们齐心专心向善，全心全意为人类做事。
然而，问题是道德教诲如何能够防止人工智能 朝不道德方向发展。

第三种悲观主义态度。

持此种态度的专家学者认为，人工智能不再是工具地位，自身具有生命意识与学习能力，在道德上具有“作歹”的两种可能：一种是人工智能的强大威力可能引发“人类作歹”，另一种是人工智能自身具有“作歹”的能力，而且人类对人工智能的“作歹”无法应对，终极将使人类走向虚无与毁灭。
因此，他们表达了人工智能将来有可能失落控或危害人类的担忧。
2015年初，史蒂芬•霍金、比尔•盖茨和埃隆•马克斯等人签署了一封公开信，呼吁掌握人工智能开拓。
马克斯认为人工智能会“唤出恶魔”，比核武器对人类的威胁还大。
霍金则明确断言：彻底开拓人工智能可能导致人类灭亡。
持悲观主义态度的人认为，技能并非使人类得到解放的道路，它“并非通过掌握自然而从自然中解放出来，而是对付自然和人本身的毁坏，不断行刺生物的过程将终极导致总体毁灭”。

总结：

科技伦理是人类为了避免或减少科技滥用给自己带来的“负面”浸染，从而为人们的科技行为制订出一套规范和一定的限定，以限定其发展的限度。
这种不雅观点只是大略粗暴地从既定的伦理道德态度出发，对科技行为的“是非与善恶”进行道德评判，并向科技提出规范性的呼吁或指令，而不对伦理道德体系本身进行反思、改动与发展。

事实上，科技发展的许多重大问题，“已经不是传统的伦理道德框架能够供应某种有代价的答案，而须要对传统的伦理不雅观念及其条件性规定进行批驳反思”的根本上，才能做出有效的回答。
详细到人工智能的道德评判问题，则须要对“人工智能是否是真正意义上的人格实体与道德实体”进行批驳性反思，而不是在某些细枝末节问题上牵丝扳藤，否则对问题的本色把握及其根本性办理是无所助益的。

References:

[1] 王银春, 人工智能的道德判断及其伦理建议. 南京师大学报(社会科学版), 2018(04): 第29-36页.

复旦大学教授王国豫老师长期从事高科技伦理问题的根本理论和运用对策研究，她是国家社会科学基金重大项目“高科技伦理问题研究”首席专家。
她主见新时期科技下的伦理道德研究一方面要从现实维度出发，以问题意识为导向，指涌当代技能对传统生命不雅观的遮蔽。
另一方面从技能伦理学的路径出发，强调技能中蕴含着代价，要从源头上阐清观点，制订规范，进而从伦理共同体、科学共同体走向行动共同体。

CNCC2019大会，特约请演讲高朋王国豫老师作主题报告。
开设“人工智能开拓有道德边界么？”、“智能驾驶未来之路”等主题的分论坛，共同磋商人工智能的道德伦理的问题。

CNCC先容：

CNCC2019由大会报告、大会论坛、技能论坛、活动、展览等环节组成，个中技能论坛数量最多，400多位精英为大会贡献的多场高质量论坛，吸引了国内外大量的学术、工业界人士参会，是打算前沿互换的舞台。
更有前沿技能与运用的预测，以下是本次大会获评通过的CNCC2019技能论坛列表：

计策互助媒体