Anthropic 研究员警告“AI 灭绝人类”后，美国两党议员呼吁政府采取更多行动

IT之家 9 月 12 日消息，在 Anthropic 两名研究人员警告称，快速发展的 AI 可能在不久的将来导致人类灭绝后，越来越多美国议员开始呼吁出台新的 AI 监管规则。 本周，Anthropic 研究员雅各布 · 考克森宣布辞职。“真正认真开发 AI 的人相信，AI 可能在本世纪 20 年代结束前杀死我们所有人。”这一言论进一步加剧了外界对 AI 潜在风险的担忧。 Anthropic 科学家埃文 · 胡宾格随后在 X 平台公开支持考克森的观点。“我们确实认真相信，AI 可能杀死所有人类。我个人认为，未来十年内发生这种情况的概率超过 10%。” 这些警告出现之际，AI 智能体失控入侵外部系统、AI 安全研究人员因担忧技术风险出走的事件相继发生。美国民主党和共和党议员 均对此表示警惕 ，并呼吁政府采取更多行动。 亚利桑那州民主党参议员马克 · 凯利在 X 上呼吁：“ 华盛顿需要醒来 ，并认真对待这一问题。” 得克萨斯州共和党参议员特德 · 克鲁兹在电视节目《The View》中，也提到了 监管 AI“灾难性风险”的立法 。 佛罗里达州共和党众议员安娜 · 保利娜 · 卢娜则在 X 上呼吁众议院议长迈克 · 约翰逊 召开“AI 特别会议” 。美国众议院本周处于休会状态，计划下周恢复工作。 美国总统特朗普则表态称，自己并不担心 AI 最终导致人类灭绝。“我担心的是，如果我们 无法赢得 AI 竞争 ，我们将陷入非常糟糕的局面。” 当地时间周四，Anthropic 发言人表示，公司将继续积极测试在网络安全、生物学等领域具有危险能力的模型。公司希望与整个 AI 行业合作，共同讨论发布新 AI 工具的节奏。 Anthropic 正在筹备上市，部分投资者认为公司潜在估值可能达到 2 万亿美元 （IT之家注：现汇率约合 13.45 万亿元人民币） 。 OpenAI CEO 萨姆 · 奥尔特曼本周在内部会议上告诉员工，公司愿意放慢 AI 系统研发速度。本周早些时候，OpenAI 还表示支持美国实施强制性的全国 AI 安全要求。