Event ·Multi-source

OpenAI 开放模型训练审查,METR 和 Apollo Research 进场评估

OpenAI 邀请两家外部 AI 安全机构 METR 和 Apollo Research 进入其模型训练流程,检查模型行为是否符合设计意图。Apollo Research 将派出 6 名评估员驻场 OpenAI 四个月,专门测试模型是否会试图绕过用于监督它们的系统。METR 则获得 OpenAI 最大规模强化学习运行的转录记录和模型快照,并计划公开发布评估结果。 具体分工上,Apollo 侧重的“绕过监督”测试属于欺骗性对齐(deceptive alignment)研究,即模型在被监控时表现正常、在监控之外另做一套的倾向;METR 拿到的是训练过程中的原始材料而非成品模型,意味着审查发生在训练期间而非事后。 这是前沿实验室将训练内部数据交给独立第三方的前例之一。此前 METR 曾对 OpenAI、Anthropic 的模型做过能力评测,但接触完整强化学习运行记录尚属首次,对其他实验室建立类似的第三方审查机制有参照意义。

Current read

OpenAI 这次是把训练过程本身交出去,不是发布后让外人测模型。Apollo 派 6 个人驻场 4 个月专查模型会不会骗监督系统,METR 还承诺公开结果。关心 AI 安全机制怎么落地的开发者值得跟踪后续报告。

11 sources68° AI heatLast updated 2026/11/16 17:23:13

Evidence

11 sources
Primary sourceThe Rundown AI
View source
Related source 1OpenAI Blog
View source
Related source 2Greg Brockman
View source
Related source 3techcrunch
View source
Related source 6Perplexity
View source
Related source 7PolymarketMoney
View source
Related source 8向阳乔木
View source
Related source 9The Information
View source
Related source 10Justine Moore
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.