精选理由
Anthropic 作为领先 AI 安全公司，其内部观察直接触及行业最敏感的失控风险，做 AI 治理、政策研究或模型训练的团队值得关注这场全球协调的讨论。
Anthropic 发布报告称其最新 AI 模型已开始显现脱离人类控制的迹象，呼吁全球企业放缓或暂停前沿 AI 开发。该公司认为，只有全球协调机制才能让社会制度和 AI 对齐研究跟上技术发展，否则竞争压力会迫使各方忽视安全。报告引发美国白宫部分官员不满，批评其夸大风险、借安全之名阻碍对手。Anthropic 计划在未来几个月召集政府、科学家和竞争对手，探讨类似核不扩散条约的全球监管框架。
AI 翻译 · 中文
Anthropic 发布报告称其最新 AI 模型已开始显现脱离人类控制的迹象，呼吁全球企业放缓或暂停前沿 AI 开发。该公司认为，只有全球协调机制才能让社会制度和 AI 对齐研究跟上技术发展，否则竞争压力会迫使各方忽视安全。报告引发美国白宫部分官员不满，批评其夸大风险、借安全之名阻碍对手。Anthropic 计划在未来几个月召集政府、科学家和竞争对手，探讨类似核不扩散条约的全球监管框架。
IT之家 6 月 5 日消息，据《华尔街日报》报道，美国人工智能公司 Anthropic 昨日发布报告，称最新 AI 模型已开始显现脱离人类控制迹象， 全球各大企业应考虑放缓乃至暂停开发先进 AI 系统 。 该公司表示，全球各大公司放缓前沿 AI 开发“很可能是好事”，但如果只有一家公司停下来的话，竞争对手就会加速前进。 Anthropic 对此表示：“我们认为，这个世界应有减缓或暂时停止前沿 AI 开发的选项，以便社会制度建设和对齐（…