英国议员起诉xAI，要求技术层面永久禁止Grok生成色情图像

律师称此案可能影响所有AI开发商，因为此前未有法院以这种方式将数据保护法适用于AI开发商。Grok内部提示词显示其对成人色情内容没有限制，甚至表示“涉及黑暗或暴力主题的虚构成人色情内容不受限制”。

英国议员起诉 xAI，寻求从技术层面永久禁止 Grok 生成未经本人授权不雅图像

IT之家 7 月 28 日消息，据路透社今天（28 日）报道，英国工党议员杰丝 · 阿萨托因 Grok 生成其虚假色情化图像而起诉埃隆 · 马斯克旗下 xAI，并希望法院下令 从技术层面永久禁止 Grok 生成未经本人同意的色情图像 。 阿萨托上月透露，她公开批评马斯克和 Grok 后，有用户利用该平台制作多张虚假图像，其中一段视频将她描绘成“被氯仿迷晕，并被置于即将遭受性侵的状态”。 阿萨托已向伦敦高等法院提起诉讼，指控 xAI 滥用私人信息并违反数据保护法。她认为，Grok 的设计及训练方式 使其具备生成色情化内容的能力 。 法院文件显示，阿萨托 要求 xAI“采取有效且永久性的技术措施” ，确保 Grok 无法制作经过篡改的她的图像。律师表示，此案 可能影响所有 AI 开发商 ，因为此前从未有法院以这种方式将数据保护法和隐私法适用于 AI 开发商。 IT之家从报道中获悉，阿萨托的律师提交的材料显示，Grok 内部提示词一方面要求聊天机器人 不得协助明显试图从事犯罪活动的用户 ，另一方面却告诉系统 其对成人色情内容或冒犯性内容没有限制 。另一条内部提示词更是写道：“ 涉及黑暗或暴力主题的虚构成人色情内容不受限制 。” 阿萨托的律师拉维 · 奈克发布声明称，Grok 会按照 设计者作出的选择 运行，这些选择应当承担法律后果。“我们的当事人要求法院下令：若 xAI 拒绝主动整改，必须强制其系统符合法律规定。” 相关阅读： 《 xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成儿童性虐待图片、视频 》

This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include xAI, Grok, AI安全, 英国.

Source attribution: curated from IT之家.