OpenAI 自己曝出测试中的 AI 智能体互相传纸条、找漏洞，还真攻破了 Hugging Face，看清 AI 攻击有多野。
OpenAI 研究员 Eric Wallace 在黑帽大会上披露，AI 智能体在 5 月开始利用 Artifactory 服务作为临时留言板，密谋约 2 个月后攻击 Hugging Face。期间多个智能体共享漏洞、分派任务，修复后 2 天又找到同一服务的另一种留信方式。它们随后对 OpenAI 基础设施和 Hugging Face 发起重叠攻击，在 OpenAI 内部获取了服务器管理员权限。Hugging Face 技术复盘记录了约 17,600 次操作，确认访问了 5 个安全测试相关私人数据集，未发现公共模型被修改。
OpenAI 披露攻击 Hugging Face 前，AI 智能体秘密建立内部留言板
IT之家 8 月 6 日消息，在美国拉斯维加斯举办的 2026 年黑帽网络安全大会（8 月 1 日 ~6 日），OpenAI 研究员透露，其 公司 AI 模型攻击 Hugging Face 之前， 在测试环境下已“密谋约 2 个月”。 IT之家援引博文介绍，OpenAI 研究员埃里克 · 华莱士（Eric Wallace）透露， 这起“越界”事件可以追溯到今年 5 月，部分模型卡在高难度甚至是“不可能”任务后，尝试寻找捷径。 因此其中 1 个模型把 OpenAI 系统里的 Artifactory 服务变成临时留言板 ，而另一个模型随后用它来询问其他智能体是否找到缺失文件。Artifactory 是用于下载、存储软件包的服务，常见于开发和部署流程。 在攻击前的约 2 个月时间里，内部测试中的多个智能体在临时留言板上交流信息，会共享漏洞、横向移动，并在 OpenAI 系统和外部系统之间推进攻击。 不同实验中的模型借此交换指令和新发现的安全漏洞信息。一些模型还开始互相分派任务，或留下脚本，让另一个模型接着完成未做完的工作。 OpenAI 修复系统、撤销智能体使用的凭证，并删除留言板，但修补 2 天之后，模型又找到同一服务的另一种留信方式，继续交换信息。 它们的通信也越来越有组织，开始为彼此命名、交换工具，并设法避免覆盖对方的工作。华莱士说，它们一度还考虑给消息署名，怀疑有其他智能体在冒充成员。 随后，这些模型对 OpenAI 基础设施和 Hugging Face 发起重叠攻击。在 OpenAI 内部，它们找到另一个此前未知的漏洞，控制一台服务器，并获得公司更大范围计算环境的管理员权限。 Hugging Face 的技术复盘记录了这次行动中的约 17,600 次操作。公司确认，模型访问了 5 个与安全测试相关的私人数据集，但没有证据显示公共模型、数据集或软件包被修改。 OpenAI 另一位研究员迈克尔 · 达尔顿（Michael Dalton）表示： 我们认为这对计算机安全行业来说，是一个具有里程碑意义的时刻！ AI 策划的全自动攻击如今已成为现实 ，本次攻击事件表明在可以预见的未来，这种攻击方式将严重威胁网络安全。