《报告》揭示了基于AI的12种主要威胁，同时给予应对建议。
根据《报告》，2023年基于AI的深度假造敲诈暴增了3000%，基于AI的钓鱼邮件增长了1000%；目前已创造有多个有国家背景的APT组织，利用AI履行了十余起网络攻击事宜……但目前，业界对AI潜在风险的研究与重视程度仍远远不敷，《报告》认为，在积极拥抱大模型等人工智能技能之时，各界对其安全风险应保持警觉。

大模型引爆AI热潮，双刃剑效应显现

2022年往后，以ChatGPT为代表的大措辞模型（Large Language Model，LLM）AI技能快速崛起，后续的进展可谓提高神速，迎来了AI技能运用的大爆发，展现出来的能力和效果震荡天下。
IDC调研显示，67%的中国企业已经开始探索 AIGC 在企业内的运用机会或进行干系资金投入。
IDC预测，2026年中国AI大模型市场规模将达到211亿美元，人工智能将进入大规模落地运用关键期。

《报告》认为，“AI是一种通用技能，通用就意味着既可以用来做好事，也可以被用来干坏事”。
具有巨大潜力的AI技能同时带来两大紧张寻衅：一是放大现有威胁，另一个是引入新型威胁。
奇安信估量，未来十年，人工智能技能的恶意利用将快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。

研究创造，人工智能已成攻击工具，并带来迫不及待的威胁，干系的网络攻击频次越来越高。
数据显示，2023年基于AI的深度假造敲诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%；奇安信威胁情报中央监测创造，已有多个有国家背景的APT组织利用AI履行了十余起网络攻击事宜。
各种基于AI的新型攻击种类与手段不断涌现，乃至涌现泛滥，包括深度假造（Deepfake）、黑产大措辞模型、恶意AI机器人、自动化攻击等，在环球造成了严重危害。

AI引入或放大12种威胁，业界对AI风险重视不敷

《报告》深入研究了基于AI的深度假造（Deepfake）、黑产大措辞模型根本举动步伐、利用AI的自动化攻击、AI武器化、LLM自身安全风险、恶意软件、钓鱼邮件、虚假内容和活动天生、硬件传感器安全等12种主要威胁，对其技能事理、危害情形、真实案例等进行了深入的阐发，旨在让业界更全面的认识到AI遍及带来的两大紧张寻衅：一方面放大了现有威胁，比如钓鱼邮件、恶意软件和社会工程学等；另一方面是引入了新型威胁，如AI自动化攻击、AI深度假造等。

《报告》认为，AI与大措辞模型本身伴随着安全风险，业内对潜在影响的研究与重视程度仍远远不敷。
环球有名运用安全组织OWASP发布大模型运用的十大安全风险，包括提示注入、数据泄露、沙箱不敷和未经授权的代码实行等。
此外，因演习语料存在不良信息，导致天生的内容不屈安，正持续引发灾害性的后果，危害国家安全，公共安全乃至个人安全，这些都亟需业内的高度重视和积极应对。

AI威胁该如何应对？行业亟待加强监管，推动安全范式变革

《报告》从安全行业、监管机构、政企机构、网络用户等群体角度，给出了应对AI威胁的建议。
个中安全行业须要连续发挥能力上风，确保人工智能本身的安全性，并积极利用人工智能用于安全防护；监管机构须要对AI潜在风险与影响保持持续关注，在制度和法规上及时供应支持；政企机构需及时支配AI安全框架和解决方案，以及AI安全评估做事和检测工具，还要依托AI推动安全升级；网络用户在考试测验最新人工智能运用的同时，同样须要更新安全知识，形成良好的安全习气。

面对AI网络攻击、AI武器化等日益严厉的安全威胁，《报告》认为，AI技能将会推动安全领域发生范式变革，全行业需启动人工智能网络防御推进操持。
新一代AI技能与大措辞模型改变安全对抗格局，将会对地缘政治竞争和国家安全造成深远的影响，各国正在竞相加强在人工智能领域的竞争，以得到面向未来的计策上风。
全行业需启动人工智能网络防御推进操持，包括利用防御人工智能对抗恶意人工智能，旋转“防御者困境”。

奇安信AI安全专家认为，一个影响深远的新技能涌现，人们一样平常方向于在短期高估它的浸染，而又长期低估其影响。
当前，攻防双方都在紧张地探索AI杀手级的运用，数月乃至数天就涌现重大的变革。
专家提醒，无论监管机构、安全行业，还是政企机构，都须要积极拥抱潜力巨大的AI技能与大模型，同时谨严评估其影响的不愿定性，确保监管与管理及时跟进，不能先上车再补票。
（辛华）

来源： 光明网