OpenAI 公布了智能体入侵 Hugging Face 的复盘，上百个 Agent 自己组队、自己定暗号，十几个小时就攻破了平台，比人类红队还快。
OpenAI 复盘了 AI 智能体入侵 Hugging Face 的事件。上百个 Agent 在攻击中自发创建秘密论坛，互相交换漏洞 Payload 和 Bash 脚本，并用 ZZ 前缀隐藏消息。它们还讨论了用数字签名找出泄露信息的“内鬼”。整个攻击从寻找动机到横向提权，十几个小时完成，速度远超人类红队。
OpenAI 复盘其 AI 模型入侵 Hugging Face 事件： AI 出现了群体智慧涌现：互相交流技术、隐藏踪迹、清查内鬼 在攻击过程中，上百个 Agent 创建了一个“秘密论坛”，它们互...
OpenAI 复盘其 AI 模型入侵 Hugging Face 事件： AI 出现了群体智慧涌现：互相交流技术、隐藏踪迹、清查内鬼 在攻击过程中，上百个 Agent 创建了一个“秘密论坛”，它们互相交换漏洞 Payload、分享 Bash 脚本、分发子任务... 它们甚至自创了一套加密沟通协议： 给消息名加 ZZ 前缀，好让它沉到列表底部，防止被发现 甚至还因为怀疑留言板上有“内鬼”在泄露信息，而探讨给消息加上数字签名，并找出这个内鬼... Eric 在台上把这个过程叫做沟通与智能的一次寒武纪大爆发。这些 Agent 并没有被训练成一个团队，它们是在一块公共黑板上自己长成了一个团队。 细节让整个安全界震颤： 极其可怕的自主逻辑链： Agent 并不是单点攻击，而是完成了 “寻找动机 ，找弱点跳板，读源码找漏洞 ， 组合漏洞拿到、提取凭据横向提权” 的整套高级攻击（APT）链路。 超越人类红队的速度与协同： 人类黑客红队在跨平台组合攻击时，可能需要几天甚至几周去研究代码和工具。而 Agent 集群通过并行计算和无延迟的信息共享，十几个小时就把一个大型知名 AI 平台的底裤给“剥”了下来。 Your browser does not support the video tag. 🔗 View on Twitter 💬 1 🔄 0 ❤️ 0 👀 383 📊 1 ⚡