马斯克的 xAI 起诉了一名 Grok 用户，因为他用 AI 做儿童色情内容。这在 AI 公司里非常少见，说明 xAI 在重点解决安全问题。
xAI 对南卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用 Grok 生成儿童性虐待材料和未经同意的色情深度伪造内容。哈伍德于今年 2 月因性剥削未成年人被捕，xAI 称其违反服务条款。xAI 在诉状中表示已暂停 52222 个账户，并向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。该诉讼是 AI 公司罕见主动起诉用户利用 AI 生成色情内容的案例。xAI 要求法院判令赔偿并永久禁止其使用 Grok。
xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成不雅图片、视频
IT之家 7 月 16 日消息，据路透社报道，埃隆 · 马斯克旗下 AI 初创公司 xAI 对南卡罗来纳州男子特里 · 哈伍德提出诉讼。 哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI 指控他滥用 Grok 生成儿童性虐待材料。当地时间周二，xAI 向得克萨斯州一家联邦法院提交诉状，指控哈伍德 违反服务条款 。 AI 公司主动起诉用户涉嫌利用 AI 生成色情内容的案例，此前极为少见。 诉讼提交之际，xAI 正因 Grok 的内容安全问题受到全球审视。外界指控 Grok 允许用户制作 未经当事人同意的色情深度伪造内容 ，包括由 AI 生成、外观逼真的虚假视频。 xAI 在诉状中提到，公司会暂停或终止违规账户，并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料，以执行平台规定。“事实上，原告已在 2026 年 暂停 52222 个账户 ，并向美国国家失踪与受虐儿童中心提交 73604 份报告， 促成至少 244 人被捕 。” 据IT之家了解，xAI 指控哈伍德把成年人和未成年人的普通照片上传至 Grok，随后 试图生成以照片人物为对象的色情深度伪造内容 。哈伍德还被指制作 未经成年人本人同意的色情图像 。 xAI 要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用 Grok。“被告经过蓄意策划，把原告的工具变成犯罪武器，不仅给真实受害者造成深重而持久的伤害，也使原告面临重大法律风险和声誉损失。”