Anthropic 上市当天,前研究员考克森在总部外抗议要求禁止 AI 递归自我改进
当地时间 11 月 19 日,Anthropic 股票首日上市交易,今年 9 月因担忧 AI 风险离职的前研究员雅各布·考克森与数十名抗议者聚集在其旧金山总部外,要求禁止递归自我改进,即让先进 AI 系统参与训练下一代 AI 的技术路线。OpenAI 前研究员丹尼尔·科科塔伊洛和 YouTube 博主罗布·迈尔斯到场演讲,Stop AI 组织成员随后封堵了办公楼入口。 考克森在接受采访时表示买不买股票不重要,关键是必须阻止递归自我改进,并呼吁 Anthropic 游说政府、与其他企业合作推动全面禁令,因为到 2027 年全球只有少数几个地方能实现这一技术。AI 安全研究机构 METR 的独立报告发现 AI 正在帮助 Anthropic 加快研发进度,而 Anthropic 也在 IPO 招股说明书中承认让 AI 在缺乏监督的情况下完全自主设计下一代模型并不安全,正在考虑修改政策以确保前沿模型开发由人类掌控。 考克森和科科塔伊洛均提到私下经常听到 AI 研究人员表达对技术风险的担忧,考克森认为 Anthropic 现有的内部政策调整远不足以应对风险,企业本身就是问题的一部分。
Current read
Anthropic 上市同天,自家跑出来的研究员带人堵门口,要求禁止让 AI 训练 AI。有意思的是招股书里 Anthropic 也承认这事有风险。对 AI 安全和监管话题感兴趣的话,这篇能看到前沿公司内部人和外部抗议者的两重视角。
Evidence
11 sourcesConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.