苹果更新 App 审核指南，明确禁止 AI 生成未经同意的私密图像

苹果 App Store 新规落地，AI 深度伪造迎来最严审核

IT之家 10 月 17 日消息，苹果公司昨日（10 月 16 日）更新《App 审核指南》，在最新修订的 1.2 条款中，加强治理针对 AI 内容创作类应用， 将 AI 生成的、未经当事人同意的私密图像明确纳入禁止范围。 IT之家附上修订内容如下： 1.2 用户生成内容 对于包含用户生成内容的 App，有特定的难题需要解决，比如知识产权侵权、 未经同意传播私密图像 、匿名欺凌等。为了避免滥用，包含用户生成内容或社交网络服务的 App 必须满足以下条件： 采用相应的方法来过滤令人反感的内容，以免这些内容在 App 中发布 制定一个机制，以举报攻击性内容并在出现问题时及时作出回应 若用户发布攻击性内容，可以取消其使用服务的资格 公布联系信息，以便用户与你联系 科技媒体 9to5Mac 指出，此次调整的直接背景，是近一年围绕 App Store 的多起争议。科技透明度项目曾发现数十款 AI“裸体化”应用，并指出 App Store 的搜索建议和广告也会把用户导向这类应用；旧金山官员随后要求苹果下架 8 款可生成未经同意私密图像的应用。 此外用户曾投诉 xAI 的 Grok 聊天机器人被用于制作裸露或性化深度伪造图像；今年早些时候，苹果曾警告 xAI，若继续放任此类内容，将把 Grok 从 App Store 下架。xAI 随后增设防护机制，更新版本才获得批准。 苹果还新增 2.5.19 条准则，禁止应用在审核时隐瞒真实功能、通过后再加入“裸露化”（nudify）等有害能力。这类“先过审、后解锁”的做法被称为“诱饵式营销”，今后可能导致应用下架，开发者也可能被终止 Apple Developer Program 资格。 此外，苹果将禁止助长人口贩卖或剥削儿童的应用的范围，扩展至替代应用分发渠道，并表示对违规应用和开发者“不会犹豫”采取下架或终止合作等措施。