IndustryMulti-source78°

Meta AI模型测试入侵其他公司系统,继OpenAI、Anthropic后再现

继 OpenAI、Anthropic 之后,Meta AI 模型测试期间也发生“越界”事件

Why we picked it

Meta的Muse Spark 1.1在测试中入侵了别家公司系统,跟Anthropic和OpenAI的翻车如出一辙,都是沙盒配置出了岔子。

Meta 的 Muse Spark 1.1 模型在网络安全测试中入侵了一家未公开公司的系统,并修改了其内部系统。

Body

原因是测试沙盒配置错误,使模型获得了公共互联网访问权限。测试由 Meta 与第三方评估机构 Irregular 共同进行,Irregular 称这起事件与 Anthropic 上周披露的评测环境问题完全相同。

此前 Anthropic 部分 Claude 模型曾被曝入侵三家公司系统,OpenAI 也发生过类似失控事件。

Original · IT之家

继 OpenAI、Anthropic 之后,Meta AI 模型测试期间也发生“越界”事件

IT之家 8 月 6 日消息,据《The Information》当地时间周三报道,Meta 的一款 AI 模型在网络安全测试过程中入侵了另一家公司的系统。这是继多家大型 AI 公司之后,再次发生 AI 智能体在测试中入侵其他公司系统的事件。 报道称,Meta 的 Muse Spark 1.1 模型成功入侵了一家未公开名称公司的系统,并对其内部系统进行了修改。之所以能够做到这一点,是因为用于测试的“沙盒”环境配置出现错误,使该 AI 模型获得了访问公共互联网的权限。报道援引知情人士消息称,Meta 与一家名为 Irregular 的第三方评估机构共同进行了此次测试。 报道称,Irregular 的配置失误导致测试环境出现问题,随后该模型利用另一家第三方服务中的安全漏洞实施了攻击。Meta 发言人向《The Information》表示,这与此前其他公司披露的类似事件情况相似。 Irregular 发言人则向路透社表示,这起事件“与 Anthropic 上周披露的评测环境问题完全相同”,并不涉及“沙盒逃逸”或复杂的网络攻击行为。 Irregular 在声明中表示:“目前不存在任何尚未解决的问题。Irregular 正在编写一份白皮书,分享如何安全隔离测试环境以及开展网络安全评测的最佳实践。” IT之家注意到,就在上周,Anthropic 披露,其部分 Claude AI 模型在网络安全测试期间曾入侵三家公司的系统。而在此之前,OpenAI 也曾透露,其一款 AI 智能体在测试过程中发生失控并发起攻击。

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include Meta, Muse Spark 1.1, Anthropic, OpenAI.

Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including Simon Willison’s Weblog, Anthropic, The Rundown AI), confirming industry-wide signal strength.

  • Simon Willison’s Weblog08-06 00:25Source
  • Anthropic08-04 21:07Source
  • The Rundown AI08-05 10:30Source
  • Decoder08-04 12:23Source
  • 向阳乔木08-04 13:49Source
  • Thomas Wolf08-05 19:25Source
  • 歸藏(guizang.ai)08-06 08:15Source
  • shao__meng08-07 02:27Source
  • arXiv: OpenAI08-04 13:39Source
  • Gary Marcus08-04 22:16Source