外交部前副部长、清华大学国际计策与安全研究中央主任傅莹

央视网 8月29日下午，2019天下人工智能大会管理论坛在上海世博中央举办。
外交部前副部长、清华大学国际计策与安全研究中央主任傅莹揭橥题为《人工智能的管理与国际互助》的讲话。

以下为傅莹讲话原文：

人工智能的管理与国际互助

——傅莹在上海天下人工智能大会管理论坛上的讲话

2019年8月29日，上海世博中央

一、关于人工智能管理面临的寻衅。

进入21世纪的第二个十年，人工智能技能的运用进入快速发展的阶段，随着AlphaGo为代表的深度学习算法的成熟，人工智能技能涌现大面积运用的趋势。
我最近访问了一些企业，昨天在上海还看了三家企业，可以明显地感想熏染到我国人工智能家当所呈现出来的发达发展态势。
可以期待，未来人类的生产和生活办法将发生更大的变革，生活将变得更加舒适和便利。

今年7月，我们在清华大学的天下和平论坛期间举办了三场论坛，约请70多位国内外专家学者和企业家环绕人工智能的风险和管理进行研讨。
大家比较同等的意见是，人工智能技能是一把“双刃剑”，一方面带来科技革命和家当升级的主要机会，另一方面，也带来新的安全风险，在管理上人类将面临与以往完备不同的难题。

例如，在立法上须要有新的思维。
传统的法律是要以社会基本共识为根本的，因此每每要滞后于社会实践。
但是在人工智能技能上，我们恐怕没有这样奢侈的韶光条件，由于这项技能的运用影响之快、之大，远不同于传统技能，管理的需求与技能的运用险些同步涌现。

再比如，传统立法者关注的是人与人之间的关系。
而人工智能作为“非人行为体”，未来会越来越广泛地参与人类活动，那么，在人机共存，乃至人机冲突的情形下，如何面对和处置人类与机器的抵牾呢？

人工智能的到来对就业模式的快速冲击也是前所未有的。
清华大学计策与安全研究中央人工智能项目组的于洋老师牵头做的《中国青年视角下的人工智能技能（AI）风险和管理》调查项目中，超过50％青年人表达的头等关怀是失落业风险。
犹如以往的技能革命，人工智能将取代大量程式化的事情岗位，同时也会创造出新型岗位和就业机会。
寻衅在于，如何才能让人才构造的调度跑赢技能的更新迭代和家当构造的跃升？

不能忽略的还有在伦理规范方面的新问题。
例如国际上谈论比较多的人群歧视和对个人隐私的尊重和保护等问题。
有外国人对我说，中国人不须要隐私保护，我认为这是偏见。
我国立法高度重视对个人权利的掩护。
在本月全国人大常委会审议的民法典人格权编草案稿中，针对网络、处理自然人个人信息有明确规定，哀求必须“征得该自然人或者其监护人赞许”等，而且把个人生物识别信息也纳入保护的范围。

二、我国在创新制度和手段、推进人工智能管理方面加快支配。

***总布告明确哀求，“要加强人工智能发展的潜在风险研判和戒备”，“确保人工智能安全、可靠、可控”，“要整合多学科力量，加强人工智能干系法律、伦理、社会问题研究，建立健全保障人工智能康健发展的法律法规、制度体系、伦理道德。
”

总布告的哀求是我们推进人工智能管理的主要辅导方针。
党中心和***对人工智能的支配采纳的是发展和管理同步推进的方针。
今年2月科技部牵头组建了中国国家新一代人工智能管理专业委员会，6月该委员会发布了新一代人工智能管理8条原则，强调发展负任务的人工智能。
工信部在2017年就颁布了《促进新一代人工智能康健发展三年行动操持（2018－2020）》，个中也对管理提出哀求。
现在的主要任务是如何让这些规则和哀求落地，形成有利于我国人工智能康健发展的良性环境。
上海在人工智能的研发和运用方面走在全国的前列，积极探索管理路径，重视推进国际互助。
在科技部和工信部的支持下，上海推动建立了国家人工智能创新运用先导区和国家新一代人工智能创新发展试验区。
可以期待，上海在人工智能管理的规则与制度的创新、开展国际互助方面也将走在全国的前列。

考虑到这个新兴领域自身独特的性子，我们一方面要加快对立规和立法的研究，另一方面也要依赖科学界和企业界采纳负任务的态度和行为。
如果科学家在每一项新技能的研发中都能思考其负面风险，如果制造商在每一个新技能的运用中同步构建风险管理的办理办法，那么，对这方面的寻衅就不难找到应对办法，其立法和规范也就不难走出新的路径。

目前很多人工智能企业希望有法律任务和范围的清晰界定，认为这样更有利于企业的发展，他们在采纳一些自律方法的同时，也期待海内整体规则环境和根本条件更快得到完善。

三、人工智能管理的环球视野和国际互助。

人工智能技能的研发和运用是在环球平台上实现的，因此，其管理也不是某个国家或区域的问题，而是涉及到全人类的福祉。
因此，我们须要有环球视野，拓展环球互助。
在这方面，国际社会有过一些履历。
例如核军控和气候变革等难题，都是先在学界、企业界和社会组织中被广泛谈论和推动，终极达成国际共识，形成有效的管理原则和制度。

目前，国际上环绕人工智能带来的寻衅正在进行广泛和热烈的谈论，不少国家和机构出台了相应的法律法规和原则主见。
但各国间仍缺少大家共同接管的人工智能管理原则和在代价不雅观和理念上的共识。

中国对人工智能的国际互助和管理采纳的是积极参与的开放态度，也主动搭建了不少平台，上海天下人工智能大会就吸引了国际和海内的不少关注。
天津的天下智能大会、重庆的国际智能家当展览会等，也都是向天下开放的互换平台。

中美关系的前景也关系到人工智能管理的国际互助。
有人会说，美国挑起贸易战，毁坏环球贸易体系，是对国际秩序更大的寻衅。
我以为确实如此，这是一个主不雅观的毁坏性行为，中美关系的动荡为人工智能国际管理的探索也带来一定阻碍。

而现实中，中美学者在人工智能领域的关系是相称紧密的。
根据科睿唯安供应的人工智能领域科技文献数据，从2013年到2017年，环球参与评估的167个国家／地区在“打算机、人工智能”发文排名中，中国大陆位居第一，发文量达到59573篇，占25.02％；其次是美国，发文量是32527篇，占13.66％。
中美两国国际互助论文数量增长最快，过去五年中国大陆开展国际互助最多的工具是美国，美方开展国际互助最多的国家是中国大陆，双方互助论文有四千多篇。

在人工智能技能的快速发展中，中美各有上风。
数据显示，在涉及人工智能根本层的算力、数据和算法三大关键要素中，美国在算力和算法上有上风，巨子公司基本节制着开元算法平台和场景丰富的算法能力，而中国正在积累越来越多的运用和数据资源。
从两国的实践看，如果中美无法有效互助形成共同标准的数据和算法，双方的家当和未来发展都将受到很大影响。

***总布告在2018年致上海天下人工智能大会的贺信中指出，“新一代人工智能正在环球范围内发达兴起”，“把握好这一发展机遇，处理年夜大好人工智能在法律、安全、就业、道德伦理和政府管理等方面提出的新课题，须要各国深化互助、共同磋商。
中国愿在人工智能领域与各国共推发展、共护安全、共享成果。
”

因此，我们须要从相互依存、命运与共的“共同体”意识出发，主动参与和推动国际互换与互助，同时也要负责履行自己的任务。
历史上每一次科技革命都推动了新的国际议程的设置，相信人工智能技能也能成为各国互助的新纽带，为环球化增长新的动力。
中国人该当也能够为此做出贡献。

　四、对人工智能的国际管理的三点建议。

一是保持开放性。
人工智能的技能发展与家当运用是环球高度协作的成果，其未来的发展也依赖天下各国上风互补，互助共享。
因此，在人工智能的管理上也须要保持开放性，凑集各国聪慧与履历，实现有效的环球管理。

二是互助性。
人工智能被认为是一项综合性的“原力技能”，其管理也须要多学科、多领域和多部门乃至多国的共同参与。
各国在磋商和构建管理机制的过程中，应积极开展国际互助，取长补短，才有可能实现有效的管理。

三是客不雅观性。
人工智能作为革命性的新技能，难免引发很多误解和疑惑，没有人能准确预测技能的未来结果。
国际管理该当秉承中立客不雅观的态度，保护科学家和企业家的创新积极性，尊重人的权利与肃静。

末了，我祝愿上海天下人工智能大会能在推进人工智能国际互助、原谅制度创新方面取得好的成果。
也祝愿与会代表们，能够利用上海市搭建的这一平台，深入沟通、凝聚共识，为未来描述美好的蓝图，为我们的后代留下更多的可能性。
（完）