Event ·Official first-hand

OpenAI 启动嵌入式评估:Apollo Research、METR、Transluce、Goodfire 参与首期

OpenAI 宣布启动嵌入式评估计划的首期工作,邀请 Apollo Research、METR、Transluce 和 Goodfire 四家机构参与。这些团队将直接嵌入 OpenAI 的模型开发流程,对模型的欺骗性对齐、护栏和监控系统进行独立评估。 嵌入式评估的核心机制是让外部评估者比传统的发布前审计更早介入:他们在模型训练过程中就能访问内部系统,考察安全干预措施在部署前的有效性。四家机构分工不同,Apollo Research 侧重欺骗性对齐行为,METR 专注于模型能力的极限测量,Transluce 和 Goodfire 则分别关注模型行为分析与可解释性研究。 这一模式类似 Anthropic 长期采用的第三方评估机制,OpenAI 此前主要依赖内部 preparedness 框架做风险分级,如今把评估权部分交予外部。对开发者和企业用户而言,安全评估结论将影响模型发布节奏和风险披露方式。

Current read

OpenAI 把安全评估外包给外部团队了,Apollo Research、METR、Goodfire 这些机构可以直接进场查模型有没有骗人的倾向。之前这套玩法是 Anthropic 在用的,现在 OpenAI 也跟上,做企业采购和合规评估的人可以看看评估结果怎么影响发布节奏。

11 sources68° AI heatLast updated 2026/11/16 08:00:00

Evidence

11 sources
Primary sourceOpenAI Blog
View source
Related source 1Greg Brockman
View source
Related source 2The Rundown AI
View source
Related source 3techcrunch
View source
Related source 6PolymarketMoney
View source
Related source 7The Information
View source
Related source 8kimmonismus
View source
Related source 9Techsauce
View source
Related source 10Justine Moore
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.

OpenAI 启动嵌入式评估:Apollo Research、METR、Transluce、Goodfire 参与首期 · 事件专题 | AITOP