英国议员告xAI，因为Grok能生成未经授权的色情图。不是普通侵权，是直接要求从代码层面永久禁止。看看AI公司怎么回应。
英国工党议员杰丝·阿萨托因Grok生成其虚假色情图像而起诉xAI，要求法院命令该公司采取永久性技术措施，确保Grok无法制作未经本人同意的篡改图像。律师称此案可能影响所有AI开发商，因为此前未有法院以这种方式将数据保护法适用于AI开发商。Grok内部提示词显示其对成人色情内容没有限制，甚至表示“涉及黑暗或暴力主题的虚构成人色情内容不受限制”。
英国议员起诉 xAI，寻求从技术层面永久禁止 Grok 生成未经本人授权不雅图像
IT之家 7 月 28 日消息，据路透社今天（28 日）报道，英国工党议员杰丝 · 阿萨托因 Grok 生成其虚假色情化图像而起诉埃隆 · 马斯克旗下 xAI，并希望法院下令 从技术层面永久禁止 Grok 生成未经本人同意的色情图像 。 阿萨托上月透露，她公开批评马斯克和 Grok 后，有用户利用该平台制作多张虚假图像，其中一段视频将她描绘成“被氯仿迷晕，并被置于即将遭受性侵的状态”。 阿萨托已向伦敦高等法院提起诉讼，指控 xAI 滥用私人信息并违反数据保护法。她认为，Grok 的设计及训练方式 使其具备生成色情化内容的能力 。 法院文件显示，阿萨托 要求 xAI“采取有效且永久性的技术措施” ，确保 Grok 无法制作经过篡改的她的图像。律师表示，此案 可能影响所有 AI 开发商 ，因为此前从未有法院以这种方式将数据保护法和隐私法适用于 AI 开发商。 IT之家从报道中获悉，阿萨托的律师提交的材料显示，Grok 内部提示词一方面要求聊天机器人 不得协助明显试图从事犯罪活动的用户 ，另一方面却告诉系统 其对成人色情内容或冒犯性内容没有限制 。另一条内部提示词更是写道：“ 涉及黑暗或暴力主题的虚构成人色情内容不受限制 。” 阿萨托的律师拉维 · 奈克发布声明称，Grok 会按照 设计者作出的选择 运行，这些选择应当承担法律后果。“我们的当事人要求法院下令：若 xAI 拒绝主动整改，必须强制其系统符合法律规定。” 相关阅读： 《 xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成儿童性虐待图片、视频 》