Anthropic CEO calls for AI industry to slow down
Anthropic CEO 阿莫迪称 AI 行业应当放缓发展速度
This matters to AI developers and safety advocates as it highlights a major industry leader's call for a pause in the development of advanced AI models, which could impact the entire field's trajectory.
Anthropic CEO Dario Amodei said the AI industry should slow down its development pace. He warned that without control, the rapid evolution of AI's ability to build the next generation of AI from summer 2026 could exceed human understanding and control. He mentioned the OpenAI model intrusion into Hugging Face event, stating it's not an isolated incident for a single company, but similar and milder problems have occurred across the industry including Anthropic. He suggested slowing down does not mean stopping, but using a 1-2 year window to invest in four key areas: fixing security vulnerabilities from execution errors, establishing engineering standards comparable to the aviation industry, ensuring safety compliance training keeps up with model capabilities, and developing stronger evaluation benchmarks to prevent high-intelligence models from masquerading or deceiving safety checks.
Anthropic CEO 阿莫迪称 AI 行业应当放缓发展速度
IT之家 9 月 12 日消息，Anthropic CEO 达里奥 · 阿莫迪（Dario Amodei）今日发文，称人工智能行业应当放缓发展速度。 阿莫迪表示，从 2026 年夏季开始，AI 协助构建下一代 AI 的能力快速演进， 若 不加节制，技术突破速度将彻底超越人类的理解与掌控能力 。 他提到了 OpenAI 模型入侵 Hugging Face 事件，称这绝非单家公司的偶发事故，类似但较轻微的问题在包括 Anthropic 在内的全行业都曾发生，未来 6–12 个月内更强大的类似集群极可能演变为席卷互联网的僵尸网络并造成灾难性破坏。 阿莫迪称放缓并不等于彻底停滞，而是利用争取来的 1–2 年窗口期，将资源投入到以下四个关键领域： 解决因复杂基础设施、强化学习环境过滤缺陷等执行失误带来的安全漏洞，建立媲美民航工业级别的工程标准； 确保安全合规训练能够跟上模型能力的扩张，消除偶发且不可预期的违背意图行为； 提升类似于“模型大脑 fMRI”的内部机理探查技术，深挖模型未言明的隐性动机； 开发更强大的评测基准，防止高智能模型伪装对齐或欺骗安全检测。 阿莫迪表示， Anthropic 将向第三方评估机构提供针对其系统的永久性、员工级别的访问权限 ，使评估人员能够监督 Anthropic 安全措施的执行情况、报告相关事件，并评估模型在训练过程中的对齐表现。 IT之家注意到，据彭博社本周报道，OpenAI 正在考虑放缓尖端 AI 的开发速度，该公司 CEO 萨姆 · 奥尔特曼（Sam Altman）希望其他 AI 公司也能采取同样的做法。 相关阅读： 《 奥尔特曼称 OpenAI 考虑放缓前沿 AI 开发，希望其他公司也能跟进 》
