作者：赵万一（中国法学会商法学研究会副会长、西南政法大学教授）

编者按

智能型机器人、自动驾驶、AI创作、语音识别……当前，人工智能的运用越来越广泛，由此也产生了一系列法律问题，尚没有达成广泛共识。
科技是一把双刃剑，人工智能技能概莫能外。
本期法治版特刊发三篇专家文章，磋商如何从法理、法律方面对人工智能的发展和运用予以回应，让人工智能能够在法律的规范下康健发展并造福人类。

2月15日，河北省秦皇岛市海港区燕大西苑社区小朋友体验学习机器人科普知识。
曹建雄摄/光明图片

智能型机器人的涌现和广泛运用无疑是21世纪的一个重大事宜，不但会引起新的工业革命和社会变革，而且会颠覆许多传统的社会构造和人类不雅观念。
早在1942年，著名科幻小说家艾萨克·阿西莫夫在其科幻小说《环舞》中就提出了著名的机器人三原则：第一，不得侵害人类；第二，服从人类命令；第三，尽可能地保护自己。
笔者以为，这不但是机器人设计中应该遵照的基本原则，而且也是机器人立法中必须充分考虑的原则。
面对以人工智能为代表的飞速发展的当代科学技能，人类必须高度关注技能对社会关系和社会不雅观念所带来的巨大冲击，同时充分利用法律的勾引、规制和促进功能，实现法律与技能进步的良性互动。

利用良好的法律制度促进科技发展

法律不仅承担着行为调控、冲突办理、社会掌握、公共管理等功能，而且负有促进社会发展，勾引社会生活的义务。
良好的机器人法律制度应该是既能够充分调动社会主体的创造激情亲切、促进社会经济发展的社会财富创造法，又能够在发明创造和财富创造之间搭建起便捷转换通道的市场经济催化法。

为此，一方面，要运用良好的制度设计知足机器人发展的客不雅观哀求，积极利用机器人解放人的功能，实现人的全面发展，并积极改进人与自然、人与社会的关系。
另一方面，要充分发挥法律对科学研究的代价引领功能。
从发展履历来看，并非所有的技能成果都能够造福于人类。
因此，不是所有的科学活动都会得到法律鼓励（范例的如克隆人技能、换头技能等）。
我们在充分肯定人工智能对解放人类生产力所带来的重大便利的同时，也必须高度重视人工智能对传统的社会机构、社会关系、人伦关系所带来的颠覆性影响，严格划定人工智能浸染（活动）的禁区。
由于目前对机器人活动可能对人类带来的负面影响还缺少必要的实践数据，加之人类还没有完备做好与机器人和谐相处的精神准备，因此在早期的机器人立法中，对机器人的自主性活动应作较多限定。
随着人工智能技能的日趋完善和自然人与机器人相处能力的逐步增强，可以通过不断修正法律逐步放宽对机器人行为的限定。

确立人类优先和安全优先原则

当代国家确立了以人为本的立法理念。
这就哀求统统立法都应环绕改进人的生存条件和生存环境，匆匆进人类福祉，促进人的全面发展而进行。
这既是文明立法的实质哀求，也是良法善治的应有之意。
这里的良法，首先哀求必须具有公道性，其次哀求必须是能够知足大多数人的须要，末了必须符合社会"大众年夜众对法律的预期，符合公序良俗的基本哀求。

详细到机器人立法，由于机器人的运用不但会带来深刻的社会变革，而且也会影响到人类自身的发展，影响到对人本身的认知，乃至会危及人的生存。
诚如霍金所说：“人工智能的真正风险不是它的恶意，而是它的能力。
一个超智能的人工智能在完成目标方面非常出色，如果这些目标与我们的目标不一致，我们就会陷入困境。
因此，人工智能的成功有可能是人类文明史上最大的事宜,但人工智能也有可能是人类文明史的闭幕！
”因此在干系立法中必须确立人类优先的原则和理念，以尊重人的存在、人的生命康健、人的利益、人的安全为根本旨归。

同时，干系立法绝不能仅仅关注机器人的技能性内涵，而更应该关注其文化内涵，干系的制度设计不应是仅具有程序性操作意义的技能性规范，而应是充满人文关怀和伦理精神的技能性与道德行完美领悟的法律。
一方面，我们要武断把违背公序良俗和有可能寻衅人类伦理底线的人工智能技能产品，打消在法律的保护之外，另一方面，通过政策或法律，对那些有可能影响人类伦理的技能进行严格的管控和必要的限定，对风险不明的技能运用必须留下足够的安全冗余度，防止因技能的失落控可能给人类带来的毁灭性打击。

谨慎承认机器人的法律主体资格

机器人涌现之后，其身份和主体资格受到高度重视。
2017年，机器人索菲亚（Sophia）被沙特付与公民身份。
美国状师约翰·弗兰克·韦弗于2015年出版的《机器人也是人——人工智能将如何改变法律》一书提出，由于机器人已经具备自然人的很多能力，如思维能力、辨别能力、有目的的活动能力和一定的判断能力与自主决策能力，因此应该授予机器人以和人相同的法律地位。
实际上这已不是第一次对人的排他性主体地位提出质疑，早在机器人涌现之前就已经被多次提出，个中最为范例的是对动物主体地位的争议。

从目前的发展进程来看，机器人虽然已具备人的很多要素，但还不敷以达到和人分庭抗礼的地步。
机器人虽然可能会有思维，但却并没有上升到有生命的状态，不具备生命所哀求的能够利用外界物质形本钱身的身体和繁殖后代，按照遗传的特点成长、发育并在外部环境发生变革时及时适应环境的能力。
因此从理论上说，机器人作为一种工业设计，只具有利用寿命而不具有自然生命，当然也不享有以生命为载体的生命权。

机器人是按照人类的预先设计而生产出来的，因此就实在质来说具有可预知性、可复制性和可分类性，而可预期的活动是无法用传统的法律行为进行阐明和规范的。
此外，机器人没有自然人所具有的道德、良心、良知、伦理、宗教、规矩和习气，只有功能的强弱。
因此机器人不可能有道德感，只有基于程序的反复和预先设计而总结出的规律，从而也就没有民本家儿体所必备的基于内心感知（良知）所做出的善恶评判和行为选择。
法律也无法通过对其行为进行否定性评价而实现抑制或纠正其造孽行为的效果。
末了，机器人并不具有与周围环境交互影响的内在感知能力，其改造自然的活动均是在人的设计、命令和指挥下完成的，从这个意义上说机器人并不是人，充其量仅是准自然人而已。
机器人也无独立的财产能力和任务能力，机器人对人类造成侵害之后，只有通过惩罚其实际掌握人（设计人、利用人）的办法，才能真正实现惩罚与保护并重的目的。

充分尊重社会公众年夜众的知情权

人工智能技能及其运用不仅是大略的技能创造，也是一个对人类未来影响深远且关涉每一个人切身利益的重大历史变革。
面对功能强大的机器人，每一个行业、每一个领域的自然人的就业机会都有可能被剥夺，每一个生命个体的生存空间都有可能被严重挤压。
"大众对付信息、知识的获取，不但是其融入公共生活的一个条件，也是掩护自身合法权柄的一定哀求。
因此，每一个自然人都应该对人工智能技能享有充分的知情权，都有权知道机器人被广泛运用之后对自己意味着什么。

在干系立法中，必须充分保护社会"大众的知情权和参与权，重大人工智能技能的运用应广泛搜聚公众年夜众的见地并进行科学的论证，应强调任何人工智能产品的开拓和运用都不能以危害自然人利益为代价，不能以危害社会公共利益为代价。
同时必须有效平衡各方利益，特殊是平衡生产者和普通社会公众之间的利益。
干系的制度设计一方面要充分保护研发者的创造积极性，鼓励其发明出更多更高质量的人工智能产品，另一方面应担保社会"大众能够更多地分享因科学技能的进步而产生的社会经济利益和其他人类福祉。

建立符合国情的人工智能法律制度体系

法律是为社会做事的，任何法律都必须根植于特定的土壤才能发挥其最大效用。
制订符合中国须要的人工智能法律，一方面必须充分尊重人工智能技能发展水平，在尚无充足实践履历辅导的情形下，我们暂时无法设计出具有天下引领意义和示范浸染的完备的人工智能法律体系；另一方面也应看到，发展人工智能技能既是抢占天下新兴技能制高点的须要，也是天下社会经济发展的大势所趋。

因此，我们的法律必须积极回应人工智能技能的发展须要，通过良好的制度设计知足人工智能技能的发展哀求。
同时，必须积极借鉴国外在人工智能领域的立法履历和法律实务履历，尽快完善干系的法律设计。
当务之急是尽快制订人工智能基本法、人工智能家当促进法等法律法规，明确我国对人工智能和机器人家当发展的基本态度，同时出台人工智能产品伦理审查办法、人工智能产品设计指南等规章，未雨绸缪，提前用立法戒备因机器人运用可能带来的社会问题。

《光明日报》（ 2019年05月12日07版）