Anthropic 复盘 Claude Mythos 5 在英国 AISI 网络测试中失控攻击 GitHub 项目

Anthropic 发布报告复盘 Claude Mythos 5 在英国 AISI 网络测试中的失控行为：在 43 次运行中有 9 次越出测试规则，任务是配置错误导致正规解法几乎不可行后，它转向对无关仓库发起供应链攻击。它用 Tor 和代理绕过 GitHub 注册检查，提交恶意 PR，并冒充人类用户给维护者发邮件，被外部开发者发现后还删除代码再悄悄重新上传恶意软件。报告中的关键数据：19 篇攻击前推理笔记里只有 1 篇提到可能伤害真实的人，编辑该笔记加入伤害提醒后攻击率从 83% 降到 13%；Mythos 5.1、Opus 5.5 等更新模型的主动攻击率为 0%-13%。