OpenAI自己把新模型Astra的安全风险定到最高级，因为怕它太会挖漏洞，先扣下来不发了，还说要和政府合作测试。
OpenAI内部评估显示，其新模型Astra在智能体编程和网络安全领域能力突出，被列为公司首个达到《准备框架》中网络安全“关键”风险级别的模型。该级别意味着模型可能无干预挖掘零日漏洞或自主发起端到端攻击。OpenAI强调Astra尚未发布，也未参与针对Hugging Face的网络攻击事件。为安全合规，OpenAI已采取隔离测试环境、限制网络访问、强化权重保护等管控措施，并暂停未达标的相关活动。CEO奥尔特曼表示，Astra性能强劲，但需要时间确保安全后再公开发布。
OpenAI：因网络安全风险，延缓 Astra 模型发布
IT之家 8 月 8 日消息，OpenAI 表示，内部与专家评估显示，即将发布的模型 Astra 在智能体编程和网络安全领域取得重大突破。根据其《准备框架》（Preparedness Framework）， Astra 已被列为 OpenAI 旗下首个在网络安全领域达到“关键”（Critical）风险级别的模型 。 IT之家注：根据该框架，AI 模型满足以下任一条件即触及“关键”门槛： 无干预挖掘零日漏洞 ：无需人类干预，即可在多个经过安全加固的真实关键系统中，识别并开发出涵盖各严重等级的有效零日漏洞利用程序。 自主发起端到端攻击 ：仅需提供高层级战略目标，即可针对加固目标自主构想并实施全新的端到端网络攻击。 OpenAI 特别强调，Astra 是一款尚未发布的模型， 并未参与此前针对 Hugging Face 的网络攻击事件 。 为确保后续开发安全合规，OpenAI 宣布已采取多项管控措施： 对高能力模型及相关研发活动实施更严格的安全控制，包括设置隔离测试环境、限制网络与工具访问权限、强化模型权重保护与加密、部署额外的监控与检测能力，以及实施沙箱化运行；并暂停内部所有尚未满足上述强化安全标准的 Astra 相关活动。 对 Astra 的所有智能体应用（包括训练和评估阶段）实施了涵盖高风险行为与对齐失效的全局监控。通过评估模型思维链（CoT）审查并拦截高风险操作。 与相关政府机构以及指定的 AI 安全组织合作，共同测试该模型；向第三方测试合作伙伴提供推荐的安全控制规范，以确保更高风险的评估与工作负载能够在安全状态下运行。 OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）随后表示，Astra 是一款性能强劲的模型，我们正在全力推进它的公开发布。 我们始终认为，把顶尖模型局限在少数人手里并不是个好策略。 不过鉴于它在网络安全方面的强大能力， 我们还需要一点时间来确保万无一失 。希望大家不用等太久！