作者：Nick Martindale

编译：IT168 卢敏

人工智能（AI）利用的增长在许多方面影响着企业，但最危险的可能之一是将他们暴露在网络威胁之下。
根据2024年6月发布的Gigamon的2024稠浊云安全调查，环球82%的安全和IT领导者认为，随着人工智能越来越普遍地用于网络攻击，环球打单软件威胁将会增加。

人工智能加持下的网络攻击：繁芜性与威胁升级

随着人工智能技能的不断进步，网络犯罪分子正利用这一技能发起更加繁芜和难以识别的攻击。
如今，他们借助AI的力量，精心制作极具迷惑性的网络钓鱼和社会工程攻击，使受害者更难分辨真伪。

Abnormal Security的机器学习主管Dan Shiebler指出，利用诸如ChatGPT之类的前辈工具，网络犯罪分子能够轻松天生极具说服力的电子邮件和。
这些精心设计的攻击不仅书面表达完美，乃至还能实现个性化定制，从而大大提高欺骗收件人的成功率。

更为惊人的是，人工智能还在推动全新仿照办法的发展，即深度假造技能。
Gigamon的最新调查显示，近四成的安全领导人表示，在过去一年中，他们不雅观察到与深度假造干系的攻击呈现上升趋势。
Gigamon的EMEA技能传播者Mark Jow警告说，Deepfake技能不仅具有仿照真实人物进行操纵的潜力，乃至还能通过虚假***通话、录音和电话等手段勾引员工透露个人信息或进行造孽汇款。

一个令人震荡的案例是，2024年2月，一家工程公司的财务职员Arup在一场群组实时***谈天中被骗走了高达2560万美元。
骗子伪装公司首席财务官和其他员工，成功勾引该财务职员进行了资金转移。
Prism Infosec的安全顾问Chris Hawkins揭示了这一骗局的底细：受害者在收到来自所谓“英国首席财务官”的资金转移要求后，只管感到不屈常，但在进行***通话确认时却未能看破骗局。
原来，通话中只有受害者是真实的，其他所有人都是深度假造的虚拟人物。

此外，网络犯罪分子还利用人工智能来识别和利用分布式谢绝做事（DDoS）攻击的机会和漏洞。
NETSCOUT安全首席技能官Darren Anstee阐明说，人工智能不仅用于精确定位和选择得当的初始攻击向量，以确保攻击产生最大影响，还用于实时调度攻击策略，以战胜目标系统的防御方法。
这种动态调度的能力意味着攻击可以在险些没有任何预警的情形下产生巨大毁坏力，并且能够频繁变动策略以规避静态防御手段。

随着人工智能技能的不断发展，网络犯罪分子正利用其强大功能发起更加繁芜和难以戒备的攻击。
因此，我们必须保持高度当心，加强安全防护方法，并不断更新我们的防御策略以应对这一新兴威胁。

当心组织内部的人工智能风险

随着人工智能的广泛运用，组织在享受技能带来的便利与效率的同时，也可能因此暴露于网络威胁之下。
Hogan Lovells状师事务所的研究显示，高达56%的合规领导者和C级高管认为，组织内滥用天生性人工智能是未来几年可能影响组织的顶级技能风险。
然而，令人担忧的是，超过四分之三（78%）的领导人坦言，他们的组织许可员工在日常事情中自由利用天生性人工智能。

这个中潜在的最大威胁之一是“影子人工智能”。
这是一种被犯罪分子或其他恶意行为者利用或操纵的基于人工智能的程序，用以履行侵害。
Globant的英国和爱尔兰首席技能官Isa Goksu发出警告：“对手有可能操纵用于开拓这些人工智能系统的基本代码和数据，导致产生缺点、有偏见乃至搪突性的结果。
”他举例说，比如注入攻击，对手可以精心设计输入提示，以绕过模型的预期功能，触发有害或不良内容的天生。

面对这些风险，组织必须保持高度当心。
Jow强调，组织须要充分认识到这些活动的潜在风险。
他指出：“虽然这些做事常日是免费的，吸引了员工非记录性地利用人工智能运用程序，但它们每每伴随着更高的安全风险，并且很大程度上缺少监管。
”因此，CISO（首席信息安全官）必须确保组织内部的人工智能支配是安全的，并且严格避免向任何不屈安的人工智能办理方案透露专有、机密或私人信息。

此外，Jow还建议：“在代码层面寻衅这些工具的安全性也至关主要。
”这意味着组织须要核阅人工智能办理方案的来源，确保其来自可信赖和有信誉的供应商，无论是在数据保护、隐私还是合规方面都应有良好的历史记录。
末了，他补充说，制订明确的人工智能利用政策也是必不可少的。

面对威胁，我们怎么办？

随着人工智能技能的不断进步，网络威胁也日益增多。
为了降落组织受人工智能干系网络威胁的风险，我们须要采纳一系列有效的方法。

首先，教诲员工理解不断变革的威胁是至关主要的。
Hawkins强调，员工须要时候保持当心，对可能的网络攻击有所认识。
然而，仅靠员工的当心性是不足的，还须要结合弹性数据规复操持和深入的防御策略。
例如，在大额资金转移等关键操作中，应确保有多名高等事情职员的具名，以增加一层额外的安全保障。

除了加强员工的教诲和培训外，组织还须要从技能和策略层面进行改进。
网络安全初创公司Teleport的CEO Kontsevoy提出，组织应环绕证书和特权进行安全策略的检修。
他建议采取基于物理天下属性的加密身份认证，如生物识别，并逼迫实行临时特权访问，仅在须要完成事情时才付与权限。
这样可以大幅减少攻击者通过策略所针对的攻击面。

面对人工智能带来的新威胁，组织必须利用各种技能来确保安全。
Goksu指出，网络犯罪分子估量将越来越多地利用人工智能进行攻击，利用繁芜且难以检测的恶意软件和侦察工具。
这可能导致平台被大量由人工智能天生的内容、深度假造信息和缺点信息所淹没，从而加剧了社会工程风险。

因此，组织必须跟上关键人工智能系统中的风险漏洞，以避免代价高昂的故障、法律问题和荣誉危害。
未能投资于培训、安全和人工智能防御可能会使组织遭受毁灭性的攻击，并严重侵蚀客户信赖。
为了确保组织的安全，我们须要采纳全方位的策略，包括员工教诲、技能改进和持续的威胁监测。

来源链接：https://www.information-age.com/will-more-ai-mean-more-cyberattacks-123510778/