PapersSelected
METR 评审 Anthropic 2026 年 8 月风险报告中的自动化研发风险章节
Why we picked it
METR 拿到了 Anthropic 风险报告的非公开版本，专门评了自动化 AI 研发那部分，关心 AI 安全的可以看看它怎么挑刺。
METR 发布了对 Anthropic 2026 年 8 月版 Risk Report 中'Risks from automated R&D'章节的评审意见，评审过程中还获得了非公开版本的内容。评审重点集中在两处：该报告关于自动化 AI 研发可能带来灾难性风险的论断，以及 Anthropic 是否已跨过相关能力阈值。这一评审针对的是 Anthropic 自行发布的企业风险报告，而非政府监管文件。
Original · METR
We reviewed the “Risks from automated R&D” section of Anthropic’s August 2026 Risk Report, with access to the nonpublic version.
We focus on the report’s claims about catastrophic risks from automated AI R&D and about whether Anthropic had crossed relevant capability thresholds.
