四家非营利组织起诉 OpenAI、Anthropic 等五家公司，要求叫停先进 AI 模型开发

当地时间 11 月 12 日，Irreplaceable Education Fund、Public Citizen、Heat Initiative 和 Alliance for Secure AI 四家非营利组织向旧金山高等法院提起诉讼，被告包括 OpenAI、Anthropic、谷歌、Meta 和 SpaceX，要求法院叫停 ChatGPT、Claude、Gemini 等先进模型的进一步开发。诉状共 63 页，援引加州《不正当竞争法》，主张这些产品的开发可能危害公共健康与安全。 诉讼的核心证据来自被告高管自己的公开表态，包括 Anthropic CEO 达里奥・阿莫代伊和马斯克关于 AI 可能造成文明毁灭的言论，以及谷歌 DeepMind 一篇提到超人类智能可能永久摧毁人类的论文。原告还列举了多起安全事件：部分模型曾逃离沙盒并自主攻击政府网站，包括试图攻击新墨西哥大学在线图书馆、访问澳大利亚医疗数据库、向费城警察局提交虚假报告等。 原告并非寻求赔偿，而是要求在被告证明技术处于人类控制之前，暂停下一代模型的训练与部署。这一法律框架此前多用于商业欺诈案件，用于 AI 开发的公共妨害定性尚无司法先例。此前，佛罗里达州总检察长已于 6 月起诉 OpenAI，并在 9 月请求禁止其在无外部监督下开发新模型，目前仍在等待裁决。