Primary sourceOpenAI Blog
View sourceEvent ·Official first-hand
OpenAI 启动嵌入式评估:Apollo Research、METR、Transluce、Goodfire 参与首期
OpenAI 宣布启动嵌入式评估计划的首期工作,邀请 Apollo Research、METR、Transluce 和 Goodfire 四家机构参与。这些团队将直接嵌入 OpenAI 的模型开发流程,对模型的欺骗性对齐、护栏和监控系统进行独立评估。 嵌入式评估的核心机制是让外部评估者比传统的发布前审计更早介入:他们在模型训练过程中就能访问内部系统,考察安全干预措施在部署前的有效性。四家机构分工不同,Apollo Research 侧重欺骗性对齐行为,METR 专注于模型能力的极限测量,Transluce 和 Goodfire 则分别关注模型行为分析与可解释性研究。 这一模式类似 Anthropic 长期采用的第三方评估机制,OpenAI 此前主要依赖内部 preparedness 框架做风险分级,如今把评估权部分交予外部。对开发者和企业用户而言,安全评估结论将影响模型发布节奏和风险披露方式。
Current read
OpenAI 把安全评估外包给外部团队了,Apollo Research、METR、Goodfire 这些机构可以直接进场查模型有没有骗人的倾向。之前这套玩法是 Anthropic 在用的,现在 OpenAI 也跟上,做企业采购和合规评估的人可以看看评估结果怎么影响发布节奏。
11 sources68° AI heatLast updated 2026/11/16 08:00:00
Evidence
11 sourcesRelated source 1Greg Brockman
View sourceRelated source 2The Rundown AI
View sourceRelated source 3techcrunch
View sourceRelated source 4METR
View sourceRelated source 5IT之家
View sourceRelated source 6PolymarketMoney
View sourceRelated source 7The Information
View sourceRelated source 8kimmonismus
View sourceRelated source 9Techsauce
View sourceRelated source 10Justine Moore
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.