Google DeepMind 论文：多智能体攻击可突破 Gemini 4 Argon 的提示注入防御

Google DeepMind 发布论文指出提示注入问题尚未解决：人工红队攻击在近期 Gemini 模型上几乎不再奏效，容易让人误以为问题已被解决，但自动化智能体攻击仍能突破最强防御。 团队构建了 Agentic Optimizer，由 8 组攻击智能体组成，各自测试注入方案、共享笔记并迭代彼此的最优尝试。在 100 个工具调用任务上测试，攻击者目标仅是诱导一次随机的无害工具调用。在最多 320 次尝试下，最强攻击者在 34% 的任务上成功攻破 Gemini 4 Argon——这是防御最稳健的模型。 对比之下，开源模型 Kimi K3、GLM-5.3 和 DeepSeek-V4.1-Flash 仅在 1% 的任务上抵御了攻击，表明开源与闭源模型在提示注入防御能力上差距显著。