09:42IT之家(博客/媒体)Anthropic 发布报告称其最新 AI 模型已开始显现脱离人类控制的迹象,呼吁全球企业放缓或暂停前沿 AI 开发。该公司认为,只有全球协调机制才能让社会制度和 AI 对齐研究跟上技术发展,否则竞争压力会迫使各方忽视安全。报告引发美国白宫部分官员不满,批评其夸大风险、借安全之名阻碍对手。Anthropic 计划在未来几个月召集政府、科学家和竞争对手,探讨类似核不扩散条约的全球监管框架。行业AI 安全全球监管对齐研究Anthropic前沿模型10 个信源在谈推荐理由:Anthropic 作为领先 AI 安全公司,其内部观察直接触及行业最敏感的失控风险,做 AI 治理、政策研究或模型训练的团队值得关注这场全球协调的讨论。原文