眼下,不少地区布局人工智能领域,推动新一代人工智能康健发展。
人工智能正广泛运用于金融、医疗、交通、制造业等领域,成为推动经济社会发展的主要引擎。
不过,正如“***的两面”,人工智能在带来高效便利的同时,也可能引发隐患和危急。
对此,要增强风险戒备意识,以富有前瞻性的有力举措,管控年夜大好人工智能技能可能带来的各种风险。

戒备人工智能风险_人工智能_技巧 计算机

从目前情形看,人工智能可能引发的风险紧张包括如下几方面。
从技能角度看,人工智能本身的技能逻辑及其运用过程存在模糊性,可能引发数据、算法和模型风险。
如果数据的数量或质量涌现问题,可能无法反响现实天下的真实情形;算法“黑箱”和不可阐明性问题,在容错率低的行业,乃至可能造成不可挽回的安全隐患;其余,模型完全性攻击,又称“对抗攻击”,即滋扰模型的学习和预测过程,可能误导人工智能“颠倒黑白”。

从法律伦理道德层面看,人工智能的广泛运用可能衍生技能滥用、数据安全、隐私保护等方面的安全寻衅,给公民的信息安全、财产安全乃至生命安全造成威胁。
例如,恶意利用人工智能假造虚假人脸,危害个人金融安全;在采集、利用和剖析海量数据的过程中,发生隐私透露、数据修改、真假难辨等隐患;智能推送算法还引发了“信息茧房”、极化征象以及大数据“杀熟”征象;人工智能利用到无人驾驶、医疗诊断等领域,可能引发权责边界模糊问题;人工智能文本数据挖掘可能产生的知识产权争议问题等,都是引发法律和伦理道德风险的范例案例。

人工智能所带来的风险并非单一的、直线的,而是多种风险交织交融的。
这就哀求我们系统全面地认识人工智能,提早开展人工智能风险管理。

一方面,要推动技能进步。
针对人工智能的模型、算法、数据、隐私和运用等风险和安全威胁,加强安全保护根本理论研究和前沿安全技能研究,推动关键技能运用,构建人工智能安全管理技能体系,是有效管控人工智能风险的关键。
这是一个须要各个层面配合尽力、集智攻关的长期事情。
在社会层面,网络安全龙头企业可以牵头组树立异联合体,在开展理论研究和技能攻关的同时,加强数字安全人才培养,规范技能标准、测试标准和运用规范,匆匆进数字安全的国内外互换互助,以技能创新引领人工智能安全管理。

另一方面,还要不断加强管理。
不久前,我国《天生式人工智能做事管理暂行办法》颁布施行,国家层面的人工智能法草案在提速,各种专门立法也在积极探索。
我国正以高度负任务的态度参与环球人工智能管理,在贡献中国聪慧的同时抢占环球人工智能管理话语权。
在实践中,对发展中的问题应及时回应,充分发挥处于实践前沿的企业、行业组织的浸染。
主管单位要与企业、行业组织、科研机构以及"大众建立广泛的互助和沟通机制,以有效勾引企业和行业组织进行自我监管,发挥科研机构帮忙监督和识别潜在风险的浸染,帮助"大众年夜众提升人工智能风险戒备意识。
(本文来源:经济日报 作者:申峥峥 金学慧)