一是人工智能冲破攻防平衡，数据要素既是目标，也可能成为“毒药”。
人工智能大幅降落了网络攻击门槛，网络攻击数量大增，专业黑客还能利用人工智能对攻击进行升级改造，数据既是主要攻击目标，也能被用于发动网络攻击。
比如，黑客可以通过数据投毒、对抗样本、模型盗取等办法攻击AI算法，使其产生缺点判断，由于算法黑箱和算法漏洞的存在，这些攻击每每难以检测和戒备。

二是人工智能加大数据造孽获取、数据透露以及恶意滥用等安全问题。
人们向ChatGPT等天生式人工智能“投喂”数据，可能导致数据被动透露。
国外研究机构的数据显示，ChatGPT等天生式人工智能导致网络钓鱼邮件攻击增长135%。
天生式人工智能大模型在对话交互过程中，还能获取用户数据或输出演习数据，带来了数据透露及恶意滥用等安全问题。

三是人工智能扩大了攻击暴露面，数据要素流利风险激增。
企业数据在终端、运用、云上、数据中央侧之间流转，链路非常繁芜，提高了边界和接口的管理难度，导致访问者的身份难以辨认、行为难以管控，黑客能披着合法的外衣做坏事，很难及时捕捉安全风险，增加了数据透露的机会和攻击面。

理解到，今年的BCS北京网络安全大会主题是“AI驱动安全”。
齐向东认为，在数据、算力、算法“三驾马车”的拉动下，人工智能正从“聪慧型工具”，进化成人类的“全能型伙伴”。
“饱和式”攻击、深度假造、数据投毒等安全新风险，严重冲击原有的网络安全防线和安全体系。

“安全是人们对美好生活最实质的神往，网络安全是人工智能发展过程中无法回避的寻衅。
”如何利用人工智能技能赋能网络安全防护？齐向东认为，未来人工智能带来的影响是正还是负，取决于当下如何培养和演习它。
如果培养得当，人工智能将会带给我们应对新寻衅“最优解”。
“人工智能带来的新的安全问题，还须要人工智能技能进行化解”。
( 李政葳)

来源： 光明网