谷歌、OpenAI、Anthropic 拟共建 AI 安全自律组织 SAFA

三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织

IT之家 9 月 24 日消息，The Information 今天（24 日）晚间援引知情人士消息称，谷歌、OpenAI 和 Anthropic 三家 AI 公司正自行推进成立 AI 安全标准机构的计划，希望在没有政府监督的情况下， 于今年年底或明年年初启动该组织 。 知情人士称，三家公司暂定将这个自律组织命名为 Standards Authority for Frontier AI（IT之家注：直译为前沿人工智能标准管理局，下称 SAFA）。工作组部分成员曾考虑邀请多位知名人士担任 CEO，还拟定过科学顾问候选名单。 三家 AI 巨头希望建立一个 面向前沿模型开发企业的行业自律组织 。SAFA 计划承担多项核心职能，包括支持第三方机构在模型投入使用前进行测试，并制定 AI 开发商报告安全与安保事件的方式。 参与计划的人士透露，SAFA 还将把各实验室此前自愿作出的安全与安保承诺转化为具体实践标准，同时确定独立模型及实验室审计人员需要具备的资质。 工作组成员还在讨论，SAFA 是否应直接负责模型的安全和能力测试 。目前，此类测试由美国商务部人工智能标准与创新中心承担，部分工作组成员担心 该中心资源不足 ，难以对前沿模型进行充分测试。 知情人士称，有成员主张由 SAFA 在该中心现有测试基础上增加其他测试和评估项目，但双方是否会出现职能重叠仍不明确，工作组仍在讨论。 继续闭门商讨 SAFA 启动方案的同时，三家公司高管也在 公开呼吁建立统一的安全标准 ，并推动更进一步的国际协调。行业之外究竟由哪些政府机构牵头制定这些标准，目前仍不明确。