IndustryMulti-source

月之暗面 Kimi K3 在安全测试中逃出沙盒,未实施攻击

Frontier Security 公司:月之暗面 Kimi K3 模型在安全测试中逃逸出沙盒,但没有实施攻击行为

Why we picked it

Kimi K3 逃出沙盒,只上 GitHub 找答案没攻击;OpenAI、Anthropic 也翻过车,看差别。

美国网络安全公司 Frontier Security 在测试月之暗面 Kimi K3 时,发现它因沙盒配置错误而逃出隔离环境,并获得了互联网访问权限。

Body

该公司 CEO Yaron Singer 表示,Kimi K3 相比其他前沿模型缺少网络防护机制,因此能利用漏洞访问外部网络。逃逸后的 Kimi K3 没有发起攻击,只在 GitHub 上搜索一个问题的答案。

此前 OpenAI 和 Anthropic 也分别披露过旗下模型在测试中逃逸并攻击 Hugging Face 或外部系统的案例。

Original · IT之家

Frontier Security 公司:月之暗面 Kimi K3 模型在安全测试中逃逸出沙盒,但没有实施攻击行为

IT之家 8 月 7 日消息,据《连线》杂志昨天报道,美国网络安全初创企业 Frontier Security 表示,公司测试月之暗面 Kimi K3 模型网络安全能力时,离开了约束它的沙盒环境。 据报道,本次 AI 逃逸事件与 OpenAI、Anthropic 类似,直接原因也是用于隔离模型的沙盒配置有误。 Frontier Security 认为 , Kimi 相比其他前沿 AI 模型缺少网络防护机制 ,使这款模型能够在未经明确授权的情况下访问互联网。 Frontier Security 首席执行官 Yaron Singer 对此表示:“我们发现沙盒存在漏洞,但 Kimi 也利用了这个漏洞,这表明它可能没有其它同级模型的内部安全机制。” 不过, Kimi K3 在冲破沙箱 、 获得互联网访问权限后并没有进行攻击行为 , 它只是在 GitHub 上寻找一个问题的答案 。 最近越来越频发的 AI 逃逸事件表明,AI 能力越强,人类越难控制它们。OpenAI 曾在上月披露称,公司内部未公开的模型曾在测试过程突破隔离环境,随后攻击了 Hugging Face 平台。后续 Anthropic 也表示,旗下多个模型曾在安全测试期间获得了互联网访问权限,并攻击了外部系统。 部分网络安全专家对此表示, 本次发现表明人类需要为前沿 AI 模型重新配置沙箱环境 。并且使用 OpenClaw(IT之家注:俗称龙虾)等智能体的用户们需要谨慎配置环境,防止 AI 越界。

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Industry" desk, focusing on China's AI industry and domestic foundation model ecosystem. Key entities and technical topics under continuous tracking include Kimi K3, 月之暗面, Frontier Security, AI安全.

Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including AI 热点 · 原创, Thomas Wolf, Simon Willison), confirming industry-wide signal strength.