2023年1月,美国国家标准与技能研究院发布《人工智能风险管理框架》。
该文件采取多元化的管理方案,旨在帮助诸多行业及组织将人工智能风险管理原则转化为实践,以提高干系主体利用人工智能系统的安全性与可靠性。
只管从性子上来看,《人工智能风险管理框架》是非逼迫性的辅导性文件,但因该文件是由多方利益主体共同参与并制订的,具有高可信度和高接管度,比约束性法律更随意马虎在运用中实现更新迭代。

一文理解美欧人工智能监管最新动向!_人工智能_欧盟 AI简讯

2023年10月,美国总统拜登签署颁布了第14110号行政命令——《关于安全、可靠、可信地开拓和利用人工智能的行政命令》(以下简称“第14110号行政命令”)。
这是美国政府有史以来对人工智能采纳的最主要的行动。
第14110号行政命令以安全为核心,确立了人工智能安全和安保的新标准,关注人工智能带来的社会公正和公民权利等风险,促进企业创新竞争,以确保美国在人工智能领域发展及风险管控上处于天下领先地位。
第14110号行政命令提出建立人工智能安全新标准、保护美国民众隐私、提升美国在人工智能领域的国际领导力,以及确保政府负任务且有效利用人工智能等八项行动。
值得关注的是,第14110号行政命令哀求开拓者与美国政府共享人工智能模型的演习结果,为美国政府密切节制私营部门干系技能发展进行赋权。

欧盟:强势争夺人工智能管理主导权

从立法进程上看,欧盟委员会在2021年4月发布了《欧洲议会和理事会关于制订人工智能统一规则(人工智能法)和修订某些欧盟立法的条例》的立法提案,开启了人工智能立法的新进程。
欧盟希望这部人工智能“硬法”能够成为环球人工智能法律法规的原本之一。
2023年6月,欧洲议会投票通过了《人工智能法案》的会谈授权草案,新法案的监管思路因此横向监管为根本,以风险规制为紧张办法,同时兼顾监管与发展的动态平衡。
2024年3月13日,欧洲议会以压倒性上风通过了《人工智能法案》,标志着欧盟扫清了立法监管人工智能的末了障碍。
同年5月21日,欧盟理事会正式批准《人工智能法案》。
该法案在走完干系具名流程后将在欧盟官方公报上公布,并在公布20天后生效。

《人工智能法案》是环球首部关于人工智能的全面监管法规,重点关注私营和公共部门对该技能的高风险利用,也为ChatGPT等大模型制订了严格的透明规则,以戒备人工智能的滥用和风险。
该法案为人工智能的功能性运用划定了明确的禁区,包括禁止利用未经授权采集的面部图像建立人脸识别数据库等。
欧盟委员会主席冯德莱恩盛赞道:“这是具有明确‘护栏’的创新人工智能的首创性框架。

02

美欧人工智能监管特点剖析

监管理念和目标不同

美国政府的监管做事于其在人工智能领域长期保持计策上风的大国竞争需求,而欧盟则希望通过影响环球标准的制订来保护本土市场和企业。
美国凭借其在人工智能领域积累的上风,希望在人工智能监管上实行单边主导型管理,通过强调人工智能作为计策前沿的主要性和安全保障的绝对性,大力推动监管体系与技能业态的同步发展。
欧盟则致力于打造人工智能监管的环球模板。
除了《人工智能法案》这一环球首部人工智能监管法规之外,欧盟还通过了《人工智能框架公约》,为人工智能系统的全生命周期搭建法律框架,试图为环球人工智能管理确定基调。
不仅如此,欧盟还推出《人工智能左券》,帮助企业更好地遵照《人工智能法案》。
近年来,欧盟为抢占数字经济监管领域的先导地位,推出了《通用数据保护条例》《数字做事法案》《数字市场法案》等法律法规,深刻影响着环球监管标准的制订。
当前,欧盟正试图在人工智能领域重现“布鲁塞尔效应”。

管理手段宽严不一

欧盟在人工智能领域的监管体系更为健全,且相对严格。
自2016年始,欧盟就不断探索适宜欧洲发展的人工智能管理体系。
欧盟《人工智能法案》以横向监管为根本,将所有人工智能系统都纳入监管范围;以分类分级作为风险规制的紧张办法,一方面禁止利用高风险的人工智能系统,另一方面许可低风险和无风险的系统得到免费利用和推广的机会。
美国的干系立法进程则显著滞后。
只管多年来美国国会试图制订有关隐私、网络安全和新兴技能方面的监管规则,但截至目前尚未通过任何人工智能领域的重大立法,仍旧以倡议性文件作为紧张应对办法。

监管布局存在差异

美国的监管机制并非单一依赖于行政监管,而是强调政府与私营部门的协作,行政监管呈现分散态势,不同机构制订自己的监管规则。
第14110号行政命令明确,国土安全部的主要职责是开拓和监管人工智能,商务部则在履行行政命令上发挥关键浸染。
2023年4月,国土安全部成立该部门首个人工智能事情组,以推动人工智能的详细运用,还制订了有关人工智能技能的获取、利用,以及负任务地利用人脸识别技能的指南。
商务部的事情紧张由美国国家标准与技能研究院、工业与安全局、国家电信和信息管理局、美国专利牌号局卖力。
此外,美国对人工智能的监管还严重依赖私营部门的支持。
2023年7月始,拜登政府就先后调集谷歌、微软、OpenAI等15家人工智能公司作出志愿公开承诺,赞许政府提出的一系列人工智能保障方法,推动人工智能技能安全、可靠和透明发展。
比较美国较为分散的监管职能设置,欧盟则建立了多层次的监督和实行机制,以实现对人工智能的有效管理。
一方面,《人工智能法案》将紧张通过各成员国的主管机构实行,各成员国将指定一个国家监督机构,促进法案在全体欧盟的同等适用;另一方面,欧盟委员会在2024年1月成立了欧洲人工智能办公室,卖力促进《人工智能法案》的履行,折衷各成员国监督机构之间的互助,从而避免成员国各不相谋。

人工干预程度不同

根据第14110号行政命令,美国国家标准与技能研究院将制订严格的人工智能“红队”标准,即旨在毁坏模型以暴露漏洞的测试。
美国国土安全部将把这些标准运用于关键根本举动步伐项目,并成立人工智能安全委员会。
美国能源部和国土安全部将详细应对人工智能系统对关键根本举动步伐的威胁,及其带来的化学、生物、放射性材料、核及网络安全风险。
而欧盟则在《人工智能法案》中明确了建立人工智能监管沙盒的干系哀求。
目前,西班牙、法国、挪威、英国和瑞士等多个欧洲国家正在积极推进监管沙盒试点事情。
沙盒监管模式对付“盒内”企业采纳谨严的监管方法,在可控范围内容错纠错,为人工智能技能创新供应了弹性原谅空间。

03

对我国的启迪

广泛磋商推进国际管理框架的建立

美欧积极与国外盟友开展互助,以建立国际框架规范人工智能的利用。
2023年10月,七国集团发布《开拓前辈人工智能系统的国际辅导原则》和《开拓前辈人工智能系统的国际行为准则》;2023年11月,美国副总统哈里斯在英国举行的首届人工智能安全峰会上表示,将与国际互助伙伴和标准组织一起加快制订并履行主要的人工智能标准。
与此同时,欧盟意图通过《人工智能法案》建立人工智能监管环球标准,匆匆使欧洲在国际人工智能竞争中取得上风地位,该法案未来可能成为他国制订人工智能监管方案的样本。
借鉴履历,建议我国积极提升各部门在人工智能领域的管理能力,并强化国际监管对接。
一方面,聚焦人工智能领域完善各监管部门间分工、合营及折衷体系和制度,进一步提升各部门间的折衷监管效果。
政府各部门对本部门监管范围、本领域法律法规与人工智能的交叉点展开深入检讨,进一步强化本部门人工智能管理。
另一方面,在国际层面强化人工智能监管管理的互换磋商,积极融入并对接国际监管管理框架,提升干系话题的国际话语权,为我国干系行业发展争取利益空间。

公私同步加强人工智能管理水平

欧盟《人工智能法案》引领建立人工智能监管“天下标准”,为环球人工智能监管奠定了法律根本。
与欧盟类似,中国也正处于人工智能领域立法的主要关口。
欧盟《人工智能法案》对我国加强人工智能领域立法的体系化和系统性、细化风险分级分类制度以及通过制度设计鼓励创新等具有一定的借鉴意义。
此外,美国政府大力推动人工智能企业作出志愿性承诺,干系做法可作为我国加强监管公私同步、进一步压实企业任务的参考手段。
一方面,以企业承诺的办法作为自律监管哀求,更符合人工智能的管理需求,也更贴合家当实践的前沿趋势,可以有效办理监管政策与技能发展的同步性问题。
另一方面,从促进创新的角度来看,由于人工智能监管专业性极强,政府监管方法的有效落地与企业的合营密不可分,柔性方法可以更好地担保企业的互助态度。

加快构建人工智能人才培养体系

美国第14110号行政命令特殊提及高技能移民的问题,支持在关键领域拥有专业知识的高技能移民和非移民在美国学习、居留和事情。
此举将吸引更多的人工智能领域人才前往美国乃至“技能移民”,进而与同样聚焦人工智能发展的我国形成人才竞争关系,并可能对我国干系领域人才形成“虹吸效应”。
当前,我国人工智能领域人才供需比处于较低水平,且从人才培养生态来看,高校、机构和行业还没有形成体系化、产教领悟的人才培养机制。
建议政府部门、家当界与教诲界配合尽力,拓展产教领悟、协同育人的新路径,共同搭建人工智能人才培养体系。
同时积极推动工业和信息化部《AI运用人才从业能力评估》等标准培植事情,进一步细分和规范干系人才市场,制订人工智能运用人才从业能力标准。

看重动态平衡

为技能家当发展留足空间

欧盟《人工智能法案》旨在通过促进监管和发展的动态平衡,确保人工智能技能的合规性与可持续发展。
美国在监管上则突出行业协同,从而确保其在人工智能领域的技能上风。
当前,我国出台的《天生式人工智能做事暂行管理办法》采纳了原谅谨严的态度,在匆匆发展和稳安全之间探求动态的平衡点,并为后续人工智能技能及做事发展预留了充足的政策调度空间。
建议监管部门在风险分类分级的根本上,根据技能和经济的发展,及时动态调度风险分级分类清单,在保障安全的条件下促进人工智能领域持续迸发新活力。

04

结语

人工智能的寻衅和机遇是环球性的,从美欧在人工智能领域的“发展路线图”来看,2024年将成为人工智能发展的关键期。
当前,美欧正通过其先发上风,为人工智能发展制订环球监管标准;而我国正处于人工智能领域立法的主要“十字路口”,在加强自身立法培植的同时,也须要更多地考虑与他国法案的重得当用,做到未雨绸缪、行稳致远。

本文刊载于《通信天下》
总第947期 2024年7月10日 第13期
原文标题:美欧人工智能监管动向及启迪

END

上天!
中国移动成立星地领悟技能研究所

“萝卜”跑的快烦懑,要看背后的网络强不强

萝卜快跑:无人驾驶的“速率与激情”

作者:国家打算机网络应急技能处理折衷中央上海分中央

王怡青 杨梦倩 杨瑛瑛(通讯作者)

责编/版式:王禹蓉

审校:王 涛 梅雅鑫

监制:刘启诚

【通信天下新媒体矩阵】

央*** | 微软MSN | ***号 | 微博 | 今日 | 百家号 | 网易号 | 搜狐 | 腾讯***

新浪看点 | 雪球号 | 抖音 | 快手 | 爱奇艺 | 知乎 | 哔哩哔哩 | 咪咕*** | CSDN | 36氪

【新媒体团队】
监制|刘启诚
审校|王涛 梅雅鑫
编辑|王禹蓉 盖贝贝
***剪辑|黄杨洋 卢瑞旭
运营|林嵩

在这里,读懂通信!
\"大众 data-weuitheme=\公众light\"大众>
点分享
点收藏