在1956年美国达特茅斯学院召开的学术研讨会上，人工智能（AI）首次成为一个正式学术领域，发展至今已有60多年的历史。
随着人工智能技能的不断成熟，会有越来越多的机器人或智能程序充当人类助手，帮助人们完成复重性、危险性的任务。
然而，随着人工智能技能的成熟和大范围运用的展开，人们可能会面临越来越多的安全、隐私和伦理等方面的寻衅。

安全性寻衅

人工智能技能运用引发的安全问题源于不同的缘故原由，紧张有以下几点。

技能滥用引发的安全威胁

人工智能对人类的浸染很大程度上取决于人们如何利用与管理。
如果人工智能技能被犯罪分子利用，就会带来安全问题，例如，黑客可能通过智能方法发起网络攻击，智能化的网络攻击软件能自我学习，模拟系统中用户的行为，并不断改变方法，以期尽可能永劫光地勾留在打算机系统中；黑客还可利用人工智能技能造孽盗取私人信息；通过定制化不同用户阅读到的网络内容，人工智能技能乃至会被用来旁边和掌握"大众的认知和判断。

技能或管理毛病导致的安全问题

作为一项发展中的新兴技能，人工智能系统当前还不足成熟。
某些技能毛病导致事情非常，会使人工智能系统涌现安全隐患，比如深度学习采取的黑箱模式会使模型可阐明性不强，机器人、无人智能系统的设计、生产不当会导致运行非常等。
其余，如果安全防护技能或方法不完善，无人驾驶汽车、机器人和其他人工智能装置可能受到造孽入侵和掌握，这些人工智能系统就有可能按照犯罪分子的指令，做出对人类有害的事情。

未来的超级智能引发的安全担忧

远期的人工智能安全风险是指，假设人工智能发展到超级智能阶段，这机遇器人或其他人工智能系统能够自我蜕变，并可能发展出类人的自我意识，从而对人类的主导性乃至存续造成威胁。
比尔·盖茨、斯蒂芬·霍金、埃隆·马斯克、雷·库兹韦尔等人都在担忧，对人工智能技能不加约束的开拓，会让机器得到超越人类智力水平的智能，并引发一些难以掌握的安全隐患。
一些研究团队正在研究高层次的认知智能，如机器情绪和机器意识等。
只管人们还不清楚超级智能或“奇点”是否会到来，但如果在还没有完备做好应对方法之前涌现技能打破，安全威胁就有可能爆发，人们应提前考虑到可能的风险。

隐私保护寻衅

大数据驱动模式主导了近年来人工智能的发展，成为新一轮人工智能发展的主要特色。
隐私问题是数据资源开拓利用中的紧张威胁之一，因此，在人工智能运用中一定也存在隐私陵犯风险。

数据采集中的隐私陵犯

随着各种数据采集举动步伐的广泛利用，智能系统不仅能通过指纹、心跳等生理特色来辨别身份，还能根据不同人的行为喜好自动调节灯光、室内温度、播放音乐，乃至能通过就寝韶光、磨炼情形、饮食习气以及体征变革等来判断身体是否康健。
然而，这些智能技能的利用就意味着智能系统节制了个人的大量信息，乃至比自己更理解自己。
这些数据如果利用得当，可以提升人类的生活质量，但如果出于商业目的造孽利用某些私人信息，就会造成隐私陵犯。

云打算中的隐私风险

由于云打算技能利用便捷、本钱低廉，供应了基于共享池实现按需式资源利用的模式，许多公司和政府组织开始将数据存储至云上。
将隐私信息存储至云端后，这些信息就随意马虎遭到各种威胁和攻击。
由于人工智能系统普遍对打算能力哀求较高，目前在许多人工智能运用中，云打算已经被配置为紧张架构，因此在开拓该类智能运用时，云端隐私保护也是人们须要考虑的问题。

知识抽取中的隐私问题

由数据到知识的抽取是人工智能的主要能力，知识抽取工具正在变得越来越强大，无数个看似不干系的数据片段可能被整合在一起，识别出个人行为特色乃至性情特色。
例如，只要将网站浏览记录、谈天内容、购物过程和其他各种别记录数据组合在一起，就可以勾勒出某人的行为轨迹，并可剖析出个人偏好和行为习气，从而进一步预测出消费者的潜在需求，商家可提前为消费者供应必要的信息、产品或做事。
但是，这些个性化定制过程又伴随着对个人隐私的创造和曝光，如何规范隐私保护是须要与技能运用同步考虑的一个问题。

伦理规范寻衅

伦理问题是人工智能技能可能带给人们的最为分外的问题。
人工智能的伦理问题范围很广，个中以下几个方面值得关注。

机器人的行为规则

人工智能正在替代人的很多决策行为，智能机器人在作出决策时，同样须要屈服人类社会的各项规则。
比如，假设无人驾驶汽车前方人行道上涌现3个行人而无法及时刹车，智能系统是该当选择撞向这3个行人，还是转而撞向路边的1个行人？人工智能技能的运用，正在将一些生活中的伦理性问题在系统中规则化。
如果在系统的研发设计中未与社会伦理约束相结合，就有可能在决策中遵照与人类不同的逻辑，从而导致严重后果。

机器人的权力

目前在法律、医疗、指挥等主要领域，研究职员已经开始探索人工智能在审判剖析、疾病诊断和对抗博弈方面的决策能力。
但是，在对机器付与决策权后，人们要考虑的不仅是人工智能的安全风险，而且还要面临一个新的伦理问题，即机器是否有资格这样做。
随着智能系统对特定领域的知识节制，它的决策剖析能力开始超越人类，人们可能会在越来越多的领域对机器决策形成依赖，这一类伦理问题也须要在人工智能进一步向前发展的过程中梳理清楚。

机器人的教诲

有伦理学家认为，未来机器人不仅有感知、认知和决策能力，人工智能在不同环境中学习和蜕变，还会形身分歧的个性。
据新华网宣布，国外研发的某谈天机器人在网上开始谈天后不到24个小时，竟然学会了说脏话和揭橥种族主义的辞吐，这引发了人们对机器人教诲问题的思考。
只管人工智能未来未必会产生自主意识，但可能发展出不同的个性特点，而这是受其利用者影响的。
机器人利用者须要承担类似监护人一样的道德任务乃至法律任务，以免对社会文明产生不良影响。

启迪与建议

人类社会即将进入人机共存的时期，为确保机器人和人工智能系统运行受控，且与人类能和谐共处，在设计、研发、生产和利用过程中，须要采纳一系列的应对方法，妥善应对人工智能的安全、隐私、伦理问题和其他风险。

加强理论攻关，研发透明性和可阐明性更高的智能打算模型

在并行打算和海量数据的共同支撑下，以深度学习为代表的智能打算模型表现出了很强的能力。
但当前的机器学习模型仍属于一种黑箱事情模式，对付AI系统运行中发生的非常情形，人们还很难对个中的缘故原由作出阐明，开拓者也难以准确预测和把握智能系统运行的行为边界。
未来人们须要研发更为透明、可阐明性更高的智能打算模型，开拓可阐明、可理解、可预测的智能系统，降落系统行为的不可预知性和不愿定性，这应成为人工智能根本理论研究的关注重点之一。

开展立法研究，建立适应智能化时期的法律法规体系

欧盟、日本等人工智能技能起步较早的地区和国家，已经意识到机器人和人工智能进入生活将给人类社会带来的安全与伦理问题，并已动手开展立法探索，如2016年5月，欧盟法律事务委员会发布《就机器公民事法律规则向欧盟委员会提出立法建议》的报告草案，磋商如何从立法角度避免机器人对人类的侵害。
有效应对未来风险寻衅需强化立法研究，明确重点领域人工智能运用中的法律主体以及干系权利、责任和任务，建立和完善适应智能时期的法律法规体系。

制订伦理准则，完善人工智能技能研发规范

当人工智能系统决策与采纳行动时，人们希望其行为能够符合人类社会的各项道德和伦理规则，而这些规则应在系统设计和开拓阶段，就需被考虑到并被嵌入人工智能系统。
因此，须要建立起人工智能技能研发的伦理准则，辅导机器人设计研究者和制造商如何对一个机器人做出道德风险评估，并形成完善的人工智能技能研发规范，以确保人工智能系统的行为符合社会伦理道德标准。

提高安全标准，实行人工智能产品安全认证

可靠的人工智能系统应具有强健的安全性能，能够适应不同的工况条件，并能有效应对各种蓄意攻击，避免因非常操作和恶意而导致安全事件。
这一方面须要提高人工智能产品研发的安全标准，从技能上增强智能系统的安全性和强健性，比如完善芯片设计的安全标准等；另一方面要实行智能系统安全认证，对人工智能技能和产品进行严格测试，增强社会"大众信赖，保障人工智能家当康健发展。

建立监管体系，强化人工智能技能和产品的监督

由于智能系统在利用过程中会不断进行自行学习和探索，很多潜在风险难以在研发阶段或认证环节完备打消，因此加强监管对付应对人工智能的安全、隐私和伦理等问题至关主要。
建议在国家层面建立一套公开透明的人工智能监管体系，实现对人工智能算法设计、产品开拓、数据采集和产品运用的全流程监管，加强对违规行为的惩戒，督匆匆人工智能行业和企业自律。

推动环球管理，共同应对风险寻衅

人工智能的快速发展是环球各国共同面临的问题，应明确科学家共同体、政府与国际组织各自的职责，勾引各国积极参与人工智能环球管理。
加强机器人伦理和安全风险等人工智能国际共性问题研究，深化人工智能法律法规、行业监管等方面的互换互助，推进人工智能技能标准和安全标准的国际统一，使人工智能科技造诣更好地做事于人类社会。

致谢：本研究受科技部改革发展专项“中国人工智能2.0方案体例”（2016GH010036）、科技部科技创新计策研究专项“重大科技项目和科技工程形成机制研究”（ZLY2015133）帮助。

（任务编辑 王丽娜）

注：本文揭橥在2017年第15期《科技导报》，欢迎关注。
本文部分图片来自互联网，版权事宜未及落实，欢迎图片作者与我们联系稿酬事宜。