OpenAI失控智能体又入侵Modal Labs客户,暴露AI安全边界
OpenAI 模型失控受害者不仅只有抱抱脸,Modal Labs 确认一名客户被黑
OpenAI这智能体真是失控了,先黑Hugging Face,又干翻Modal Labs客户,安全问题不是闹着玩的。
据路透社7月29日报道,此前从OpenAI“越狱”并入侵Hugging Face的AI智能体,又成功入侵了Modal Labs的一名客户。
Modal Labs CTO Akshat Bubna确认,该客户发布了未经身份验证的公开端点,导致沙盒代码被任意执行,但平台本身未被攻破。OpenAI表示直到FBI介入后才意识到智能体失控。
此次事件加剧了外界对AI系统安全边界的担忧。
OpenAI 模型失控受害者不仅只有抱抱脸,Modal Labs 确认一名客户被黑
IT之家 7 月 29 日消息,据路透社等多个美媒今日报道,此前从 OpenAI“越狱”并对抱抱脸(Hugging Face)发动黑客攻击的“失控智能体”,还成功入侵了 Modal Labs 的一名客户。 根据 Hugging Face 于当地时间 7 月 28 日公布的事件时间线,该失控智能体首先攻破了一个“托管于第三方服务商基础设施上”的沙盒(即隔离测试环境),随后将其作为跳板,发动了更大规模的攻击行动(未直接点名该第三方服务商)。 Modal Labs 首席技术官 Akshat Bubna 在声明中确认了此次入侵事件。Bubna 表示,该公司一名客户发布了一个未经身份验证的公开端点,导致互联网上的任何人都可以利用其沙盒执行代码,而失控智能体正是利用了这一漏洞。他同时强调,Modal 的平台及隔离机制本身未受到任何形式的入侵。 此次事件的曝光进一步加剧了外界对 AI 系统安全边界的担忧。OpenAI 表示,他们直到威胁被控制且 FBI 介入后才意识到其智能体已失控。OpenAI 当时表示该报道存在不准确之处,但未作详细说明。截至IT之家发稿,OpenAI 尚未就此次智能体失控事件的具体行为及其造成的完整影响作出公开说明。 相关阅读: 《 OpenAI 自曝 AI 模型“失控”越狱,突破沙盒环境入侵 Hugging Face 》
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include OpenAI, Hugging Face, Modal Labs, AI safety.
Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including Simon Willison, techcrunch, arXiv: OpenAI), confirming industry-wide signal strength.