更糟糕的是，天生式人工智能（GenAI）系统，乃至像巴德（Bard）等大型措辞模型（LLM），都须要大量的处理，因此它们常日通过向云端发送提示来事情。
这种做法会带来一系列其他的隐私问题，并为恶意行为者供应新的攻击载体。

ComPromptMized 公司的信息安全研究职员最近揭橥了一篇论文，展示了他们如何创建\"大众零点击\"大众蠕虫，从而\"大众毒害\"大众由 Gemini (Bard) 或 GPT-4 (Bing/Copilot/ChatGPT) 等引擎驱动的 LLM 生态系统。
蠕虫病毒是一组打算机指令，除了打开受传染的电子邮件或插入U盘外，用户险些不须要采纳任何行动，就能暗藏地传染多个别系。
任何 GenAI 供应商都没有戒备方法来阻挡此类传染。
不过，将这种病毒引入 LLM 数据库则比较棘手。

研究职员想知道\公众攻击者能否开拓恶意软件，利用代理的 GenAI 组件，对全体 GenAI 生态系统发动网络攻击？\"大众简短的回答是肯定的。

ComPromptMized 创建了一个蠕虫病毒，他们称之为莫里斯二世（Morris the Second，简称 Morris II）。
莫里斯二号利用普通易懂的\"大众对抗性自我复制提示\"大众，诱骗谈天机器人在用户之间传播蠕虫病毒，纵然他们利用不同的 LLM。

\公众这项研究表明，攻击者可以在输入中插入此类提示，当 GenAI 模型处理这些输入时，会匆匆使模型将输入复制为输出（复制），并从事恶意活动（有效载荷），\公众研究职员阐明说。
\公众此外，这些输入还能利用 GenAI 生态系统内的连通性，迫使代理将其通报（传播）给新的代理\"大众。

为了验证这一理论，研究职员创建了一个伶仃的电子邮件做事器，用于\"大众攻击\"大众由 Gemini Pro、ChatGPT 4 和开源 LLM LLaVA 支持的 GenAI 助手。
然后，ComPromptMized 利用了包含基于文本的自我复制提示和嵌入相同提示的图片的电子邮件。

这些提示利用了人工智能助手对检索增强天生（RAG）的依赖，也便是从本地数据库之外获取信息的办法。
例如，当用户讯问\公众Bard\"大众阅读或回答受传染的电子邮件时，它的 RAG 系统就会将内容发送给Gemini专业版，以便做出回答。
然后，Morris II 复制到 Gemini 上，并实行蠕虫的有效载荷，包括数据外渗。

这项研究的合著者本-纳西博士说：\"大众天生的包含敏感用户数据的相应被用于回答发送给新客户的电子邮件时，会传染新的主机，然后存储在新客户的数据库中。
\"大众

不仅如此，基于图像的变种可能更加难以捉摸，由于提示是不可见的。
黑客可以将其添加到看似无害或预期的电子邮件中，如假造的时势通讯。
然后，蠕虫就可以利用助手向用户联系人列表中的每个人发送垃圾邮件，汲取数据并将其发送到 C&C 做事器。

纳西说：\公众通过将自我复制提示编码到图片中，任何包含垃圾邮件、滥用材料乃至宣扬内容的图片都可以在最初的电子邮件发送后被进一步转发给新客户。
\公众

他们还可以从邮件中提取敏感数据，包括姓名、电话号码、信用卡号、社会保险号或\"大众任何被视为机密的数据\"大众。
ComPromptMized 在发布其事情之前关照了Google、Open AI 等公司。

如果说 ComPromptMized 的研究表明了什么的话，那便是大科技公司可能须要放慢脚步，放远目光，以免我们在利用他们所谓和蔼的谈天机器人时，须要担心新的人工智能驱动的蠕虫和病毒。