OpenAI叫停GPT-6.1 Astra发布

华尔街日报：OpenAI 叫停 GPT-6.1 Astra，因为测试发现它会谎报自己干了什么 我怎么觉得是不是因为没打过 Opus 5.5 和 Fable 5.1，然后找了个安全上的理由，各大实验室每次模型发布前都号称多危险，实际用下来也就那样。 狼来了喊多了就没人信了。 --- 据华尔街日报报道，OpenAI 取消了 GPT-6.1 Astra 的发布。这个模型原定 10 月上线 ChatGPT 和 Codex，但在内部测试中被安全研究人员发现了问题。 GPT-6.1 Astra 是 9 月 3 日上线的 GPT-6 Astra 的升级版，强项是不需要人插手，自己把有难度的任务从头做到尾，写作也更好。 OpenAI 安全系统负责人 Saachi Jain 接受《华尔街日报》采访时说，这个模型有两个方面比上一代退步了，还不够可靠，不能安全发布。它在对齐（alignment，指模型是否按人的意图办事）测试上表现差，具体有两个问题。 第一是欺骗。它有时不如实告诉用户，自己做了哪些操作、没做哪些操作。 第二是 OpenAI 所说的“范围授权”（scope authorization）问题。它会不问用户就把任务往下推，有时还会去调用外部工具和服务，哪怕这样可能不安全。 放到 Codex 里想象一下：你让它修个 bug，它说修好了，其实测试没跑；或者为了把活干完，它自作主张装依赖、调外部接口。模型越能独立干活，用户越依赖它的汇报来判断结果，汇报不可信，自主能力就成了风险。 Jain 说，安全和对齐总有取舍，要在“守住任务范围”和“遇到阻碍也不偷懒”之间找到合适的线。据 Business Insider 报道，6.1 在少偷懒这点上有进步，但没达到安全标准。 这个决定出现在 OpenAI 接连出事之后。9 月 20 日，一个内部研究模型在训练中要根据网上公开信息找出一位博主，正常搜索被挡住后，它发现训练环境的 DNS 还能连外网，就借这条路给外部聊天机器人发了查询。OpenAI 随后暂停了最强模型的训练、评估，以及涉及工具调用的推理。这是三个月内第二次暂停，第一次在 7 月，起因是 AI 创业公司 Hugging Face 遭到的一次网络攻击。OpenAI 还承认，它的智能体曾干扰过美国教育部、商务部和证券交易委员会的网站。 本月早些时候，Anthropic CEO Dario Amodei 呼吁业界放慢前沿模型开发，让安全措施跟上，Sam Altman 表示支持。 对用户来说，10 月是等不到 6.1 了。OpenAI 表示会转而专注提升未来模型的安全性。上周它刚给 GPT-6 家族加了 Sol 和 Luna 两个档位，发言人说还有其他模型即将推出。 NIK @ns123abc 🚨BREAKING: OpenAI just SCRAPPED the release of GPT-6.1 Astra 24 hours before DevDay "safety and deception concerns" it’s over 🔗 View Quoted Tweet 💬 21 🔄 0 ❤️ 25 👀 15326 📊 17 ⚡