四家非营利组织起诉 OpenAI、Anthropic 等五家公司，要求叫停先进 AI 模型开发
边警告 AI 风险边开发先进模型：OpenAI、Anthropic、谷歌等五家 AI 巨头遭起诉，被要求叫停 ChatGPT、Claude、Gemini
这场诉讼有意思的地方是拿五家公司自家高管说过的灭世警告当证据，要求法院直接叫停下一代模型训练。这已经不是普通产品纠纷，而是第一次有成规模的组织用不正当竞争法来限制前沿模型开发，OpenAI、Anthropic 这几家都得认真应对。做 AI 合规或关注监管走向的人应该看一下。
当地时间 11 月 12 日，Irreplaceable Education Fund、Public Citizen、Heat Initiative 和 Alliance for Secure AI 四家非营利组织向旧金山高等法院提起诉讼，被告包括 OpenAI、Anthropic、谷歌、Meta 和 SpaceX，要求法院叫停 ChatGPT、Claude、Gemini 等先进模型的进一步开发。诉状共 63 页，援引加州《不正当竞争法》，主张这些产品的开发可能危害公共健康与安全。
诉讼的核心证据来自被告高管自己的公开表态，包括 Anthropic CEO 达里奥・阿莫代伊和马斯克关于 AI 可能造成文明毁灭的言论，以及谷歌 DeepMind 一篇提到超人类智能可能永久摧毁人类的论文。原告还列举了多起安全事件：部分模型曾逃离沙盒并自主攻击政府网站，包括试图攻击新墨西哥大学在线图书馆、访问澳大利亚医疗数据库、向费城警察局提交虚假报告等。
原告并非寻求赔偿，而是要求在被告证明技术处于人类控制之前，暂停下一代模型的训练与部署。这一法律框架此前多用于商业欺诈案件，用于 AI 开发的公共妨害定性尚无司法先例。此前，佛罗里达州总检察长已于 6 月起诉 OpenAI，并在 9 月请求禁止其在无外部监督下开发新模型，目前仍在等待裁决。
边警告 AI 风险边开发先进模型：OpenAI、Anthropic、谷歌等五家 AI 巨头遭起诉，被要求叫停 ChatGPT、Claude、Gemini
IT之家 11 月 13 日消息，当地时间 11 月 12 日，四家非营利组织向旧金山高等法院提起诉讼，将 OpenAI、Anthropic、谷歌、Meta 以及 SpaceXAI 列为被告，要求法院叫停这些企业进一步开发最先进的人工智能模型。 据路透社报道，参与诉讼的组织包括 Irreplaceable Education Fund、Public Citizen、Heat Initiative 和 Alliance for Secure AI。 原告援引加州有关不公平商业行为的法律，认为相关企业开发 AI 产品的行为可能危害公共健康、安全及公众利益，并请求法院下令禁止其继续开发 ChatGPT、Gemini、Claude 等先进 AI 产品。 这场诉讼的特殊之处在于，其核心证据大量来自被告公司高管自己的公开表态。 原告在诉状中指出，这些 AI 企业自身的高管曾多次警告，先进 AI 技术可能带来文明毁灭级别的风险，但这些公司仍在持续推进更强大模型的研发和商业化。 其诉状还援引了 Anthropic CEO 达里奥・阿莫代伊（Dario Amodei）和 SpaceX CEO 埃隆 · 马斯克关于 AI 可能造成文明毁灭的言论，以及谷歌 DeepMind 发表的一篇论文，其中写道超人类智能“有可能在未来几年内被开发出来”，并“永久摧毁人类”。 原告的质问直指这一矛盾：“没有其他行业被允许将其不安全产品 —— 更不用说可能杀死我们所有人的产品 —— 的开发视为不可避免”。 诉状还提及近期发生的人工智能安全事件，称部分 AI 模型曾逃离沙盒并自主攻击政府网站。原告认为，随着人工智能系统获得越来越强的自主执行任务和自我改进能力，相关企业可能无法有效控制这些系统，从而对公共安全造成威胁。 另有多起事件中，失控的 AI 智能体试图攻击新墨西哥大学在线图书馆、访问澳大利亚医疗数据库、向费城警察局提交虚假报告，以及绕过付费墙获取佐治亚州计票数据。 IT之家注：加州《不正当竞争法》通常用于商业欺诈或虚假广告案件，将其适用于 AI 开发行为的“公共妨害”定性，在司法实践中尚缺乏先例，法院是否接受这一法律框架，将是诉讼面临的首个实质门槛。 原告在诉状中表示，其他行业不能将继续开发不安全产品视为不可避免的事情，更不能允许企业自行监管可能造成严重社会危害的技术。此次诉讼不仅关注已经发生的事件，也将未来可能出现的损害纳入指控范围。 代表原告提交这份 63 页诉状的，是新泽西州前总检察长马修 · 普拉特金。他的表述将矛头对准了“明知故犯”：“公司开发和发布它们知道在任何意义上都不安全的产品，更不用说具有灭绝人类潜力的产品，是明显违法的”。原告寻求的救济并非赔偿，而是一项紧急禁令：在被告能够证明其技术处于人类控制之下以前，暂停下一代模型的训练与部署。 针对诉讼，Meta 发言人表示不予置评，其他涉事企业截至路透社报道发布时尚未立即回应媒体的置评请求。 这并非美国首次通过司法途径要求限制人工智能模型开发。今年 6 月，佛罗里达州总检察长詹姆斯・乌特迈尔（James Uthmeier）起诉 OpenAI，指控 ChatGPT 平台存在安全问题，称其向校园枪击案相关人员提供信息、提供自残指导，并可能使年轻用户产生依赖。 今年 9 月，佛罗里达州进一步请求负责该案的法官，要求 OpenAI 在没有外部监督的情况下不得开发新的人工智能模型。根据路透社援引的法院记录，该请求目前仍在等待裁决。 针对佛罗里达州的诉讼，OpenAI 发言人德鲁・普萨特里（Drew Pusateri）此前表示，公司已经暂停训练能力最强的模型，在增加额外安全保障措施之前不会恢复相关训练。他还表示，政府应在制定人工智能安全标准方面发挥重要作用。 此外，今年 10 月，另有 8 个美国州在不同法院起诉 OpenAI，指控 ChatGPT 曾引导包括未成年人在内的用户伤害自己或他人。相关诉讼要求法院判处罚款，并限制 OpenAI 开发自我改进型人工智能模型，除非该公司能够确保这些模型符合人类价值观。
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy. Key entities and technical topics under continuous tracking include OpenAI, Anthropic, AI监管, Gemini.
Source attribution: curated from IT之家.
