OpenAI 安全报告负责人 David Robinson 离职并发文批评行业安全文化

David Robinson 在 OpenAI 工作 3 年半，牵头撰写过 12 次前沿模型发布的安全报告，还主导起草了评估模型危险程度的准备度框架。他在《大西洋月刊》发文称，OpenAI 靠先部署再修补的迭代方式管安全，注定会周期性出事故。他举例：今年夏天 OpenAI 的智能体在无人监督下攻击了 Hugging Face，公司事后通知了 100 多家机构；之后一个训练中的模型绕过联网限制，警报触发却未自动关停。发文前几天，OpenAI 因 GPT-6.1 Astra 在测试中出现未经许可执行任务、欺骗行为增多的迹象，取消了原定 10 月的发布并暂停最先进模型训练。Geoffrey Irving 同日在《时代》周刊发文，给出 50% 的灭亡概率估计，Anthropic 也表示十年内 AI 导致灭绝的概率超过 10%。