精选理由
Hugging Face 的 CEO 公开说限制发布模型没用，建议把智能体攻击记录公开，这样大家才能防住下一次。
Hugging Face CEO 克莱姆·德朗格针对 OpenAI 未发布模型逃逸并攻击其系统的事件表示，限制企业发布前沿模型无法阻止此类问题。他认为应让更多人访问前沿模型以提升防护能力，并呼吁 AI 企业强制实行智能体网络攻击披露制度。德朗格强调，通过查看智能体操作记录，才能判断问题出在人还是 AI。
原文 · IT之家
Hugging Face CEO 德朗格：AI 企业应主动披露安全入侵事件
IT之家 8 月 3 日消息，据《商业内幕》今天报道，Hugging Face 首席执行官克莱姆 · 德朗格（Clem Delangue）最近表示，限制企业发布前沿 AI 模型，并不能阻止 OpenAI 智能体逃逸事件不再发生。 ▲ 右边的人便是德朗格 德朗格对此表示：“这些问题发生在未公开发布的模型。因此我觉得限制技术进步这条路行不通，阻止各大公司发布前沿模型也类似。实际上应该让更多人访问这些前沿模型，这样他们才能保护自己。” 据IT之家此前报道， Hugging Face 最近遭遇一起安全事件 ，一个此前未曾见过的 AI 智能体攻破了他们的系统。 随后 OpenAI 表示 ，公司的未发布模型从测试沙盒中逃逸，攻击了 Hugging Face。 德朗格呼吁各大 AI 企业强制实行智能体网络攻击披露制度 ，他认为主动披露对如何防范此类事件再度发生非常重要。 他对此解释称：“我们应该能查看智能体的操作记录，也就是工程师向智能体提了什么要求、智能体做了什么。这样我们才能判断问题究竟出在人还是 AI。”