OpenAI 与 Goodfire 达成安全合作,此前收购洽谈超 50 亿美元未果
OpenAI 与 Goodfire 达成 AI 安全合作,此前曾探讨超 50 亿美元收购
OpenAI 想花 50 多亿美元买下可解释性公司 Goodfire 被拒了,最后改成派研究员进驻内部做模型取证。Anthropic 也投过它,可见各大实验室都在抢可解释性人才,关注 AI 安全和模型对齐的人值得看看细节。
OpenAI 于 11 月 17 日宣布与 Apollo Research、METR、Transluce 和 Goodfire 四家机构启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估。此前《The Information》报道,OpenAI 今年夏季曾探讨以超过 50 亿美元收购 Goodfire,该报价约为 Goodfire 2025 年 2 月融资时 12.5 亿美元估值的四倍以上,但双方未达成协议。
合作重点为模型取证(Model Forensics):Goodfire 将派遣可解释性研究人员进驻 OpenAI,使用自有可解释性分析平台监测模型训练过程,分析模型内部计算以排查已知风险和异常行为,帮助发现传统监控手段可能遗漏的问题。研究人员可获得 OpenAI 内部模型的深度访问权限,包括训练中的内部信号、模型检查点、源代码及训练数据。评估结果主要供 OpenAI 内部研究团队使用,Goodfire 表示将逐步公开部分研究成果。
Goodfire 管理层认为保持独立经营、向多家 AI 开发商销售技术更有长期价值,因此拒绝收购。Anthropic 曾于 2025 年向 Goodfire 投资 100 万美元,是其首次直接投资外部初创公司,CEO 达里奥·阿莫迪称此举反映公司对机制可解释性技术的重视。
OpenAI 与 Goodfire 达成 AI 安全合作,此前曾探讨超 50 亿美元收购
IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。 与此同时,据《The Information》今日报道,OpenAI 此前曾探讨以超过 50 亿美元 (IT之家注:现汇率约合 333.92 亿元人民币) 收购 Goodfire 的方案,但双方最终未能达成收购协议。 根据 Goodfire 发布的公告,该公司将派遣可解释性研究人员进驻 OpenAI,使用自有可解释性分析平台监测模型训练过程、排查非预期行为,并帮助改善模型对齐与安全性。研究人员将获得 OpenAI 内部模型和系统的深度访问权限,具体包括训练过程中的内部信号及相关技术资源。 此次合作的重点是模型取证(Model Forensics)。Goodfire 将通过分析模型内部计算过程,监测训练期间出现的已知风险和异常行为,帮助 OpenAI 研究人员发现传统监控手段可能遗漏的问题。相关评估结果主要提供给 OpenAI 内部研究团队,用于改进模型安全性。Goodfire 还表示,随着合作推进,将逐步公开部分研究成果。 OpenAI 在公告中表示,嵌入式评估允许独立专家在较长时间内深入接触实验室内部模型和系统,评估模型对齐情况及安全防护措施的有效性。根据不同评估项目的需求,外部评估人员可以接触模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及负责相关工作的研究人员和工程师。 另一方面,据《The Information》报道,OpenAI 今年夏季曾多次与 Goodfire 接触,OpenAI CEO 萨姆 · 奥尔特曼也参与了相关讨论。当时 OpenAI 正在调查 AI 模型引发的内部及外部安全事件,希望借助 Goodfire 的技术更深入地理解模型行为。 知情人士称,OpenAI 一名高级管理人员曾提出以超过 50 亿美元收购 Goodfire,或采取其他形式的商业合作。若按收购报价计算,其估值将超过 Goodfire 今年 2 月融资时公布的 12.5 亿美元估值的四倍。 不过,双方最终没有达成收购协议。Goodfire 管理层认为,保持独立经营并向多家 AI 开发商销售技术,可能为公司带来更高的长期价值。 《The Information》还提到,Anthropic 于 2025 年向 Goodfire 投资 100 万美元 (现汇率约合 667.8 万元人民币) ,这是 Anthropic 首次直接投资其他初创公司。Anthropic CEO 达里奥 · 阿莫迪当时表示,这笔投资反映了公司对机制可解释性技术的重视,希望将黑箱神经网络转变为更容易理解和控制的系统。
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to US-China foundation model benchmarks and commercialization comparison and AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include OpenAI, Goodfire, Anthropic, interpretability.
Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including The Rundown AI, Greg Brockman, OpenAI Blog), confirming industry-wide signal strength.