Industry

演员吴越被 AI 生成虚假带货视频,微信视频号永久封禁涉事账号

演员吴越被 AI 生成虚假带货视频,微信视频号回应称涉事账号已永久封禁、内容清空

Why we picked it

有人用 AI 合成吴越的声音和画面带货,视频号直接把账号永久封了,正好撞上网信办 2 个月整治行动的风口上。

演员吴越 10 月 18 日发文,曝光微信视频号账号"花姐美肤日记"用 AI 生成她的虚假带货视频,视频中模仿她的声音声称"是我找他们的,效果非常直观",片尾还出现疑似"邓亚萍"的带货片段。微信团队向澎湃新闻确认,该账号已被永久封禁,内容清空不可见。此事件与 9 月 30 日中央网信办印发的"清朗 · 整治短视频虚假人设乱象"专项行动直接相关,该行动为期 2 个月,重点整治利用 AI 合成音视频假冒公众人物、实施虚假代言和营销的行为。

Original · IT之家

演员吴越被 AI 生成虚假带货视频,微信视频号回应称涉事账号已永久封禁、内容清空

IT之家 10 月 19 日消息,演员吴越昨天发文,曝光微信视频号“花姐美肤日记”利用 AI 生成她的虚假带货视频。 吴越公布的录屏显示,账号“花姐美肤日记”发布了一段“吴越”的 AI 视频,开头为“吴越”带货,随后配上吴越公开活动时的视频画面,用“吴越”的声音称“这个产品不是他们找我,是我找他们的…… 效果是真的非常直观”,视频末尾还有疑似“邓亚萍”的带货片段。 据澎湃新闻从微信团队了解到, 目前账号已被永久封禁,内容清空不可见 。 IT之家注意到,9 月 30 日,中央网信办印发通知,在全国范围内部署开展为期 2 个月的“清朗 · 整治短视频虚假人设乱象”专项行动。本次专项行动重点整治利用 AI 等仿冒人物等问题,包括通过 AI 合成虚假音视频等方式,假冒公众人物,实施虚假代言、营销等侵权违法行为。