AITOP

内容溯源

共 4 条相关 AI 资讯
5月21日
07:59
07:59官方账号Greg Brockman@gdb
OpenAI 宣布在 AI 生成图像中引入 SynthID 水印技术，并推出公开验证工具，让用户能够检查图像是否由 OpenAI 产品生成。该水印与现有的 C2PA 内容凭证共同使用，旨在提升 AI 生成内容的可追溯性和透明度。SynthID 由 Google DeepMind 开发，是一种不易察觉的数字水印，可在图像被修改后仍保持可检测性。此举是 OpenAI 应对 AI 生成内容滥用问题的重要一步，为内容创作者和普通用户提供了更可靠的鉴别手段。
AI产品SynthID水印AI 图像内容溯源OpenAI
推荐理由：AI 生成图像的溯源问题终于有了更落地的方案——OpenAI 的 SynthID 水印加上公开验证工具，做内容审核、版权保护或媒体工作的团队可以直接用起来，减少被 AI 图像误导的风险。
原文
5月20日
16:26
16:26IT之家（博客/媒体）
OpenAI 于 5 月 20 日宣布两项新措施，以应对 AI 图像伪造问题。一是采用 C2PA 开放标准，在图片元数据中标注 AI 生成信息；二是与谷歌合作接入 SynthID 隐形水印，该水印在截图、编辑后仍能留存。两套方案互补，元数据提供丰富信息，水印增强抗篡改能力。OpenAI 还预告了一款图片核验工具，初期仅支持自家产品，后续将扩展至其他平台。此举虽无法约束所有 AI 作图工具，但能确保 OpenAI 自身不助长造假。
AI产品OpenAIAI 图像隐形水印C2PA内容溯源
推荐理由：AI 图像泛滥时代，OpenAI 这套组合拳让创作者和普通用户有了可信的溯源手段，做内容审核或关心图片真实性的团队值得关注。
原文
01:58
5月13日
19:12
19:12官方账号arXiv cs.LG@Tom Sander, Hongyan Chang, Tomáš Souček, Tuan Tran, Valeriu Lacatusu, Sylvestre-Alvise Rebuffi, Alexandre Mourachko, Surya Parimi, Christophe Ropers, Rashel Moritz, Vanessa Stark, Hady Elsahar, Pierre Fernandez
TextSeal 是一种新型大语言模型水印方案，基于 Gumbel-max 采样并引入双密钥生成、熵加权评分和多区域定位，显著提升检测能力。它不增加推理开销，支持投机解码和多 token 预测等优化，在检测强度上严格优于 SynthID-text。即使在人类与 AI 混合文本中也能保持高置信度本地化检测，且理论上无失真。多语言人工评估（6000 次 A/B 比较，5 种语言）显示无感知质量差异。此外，水印信号可通过模型蒸馏传递，实现未经授权使用的检测。
论文LLM水印内容溯源模型蒸馏保护Gumbel-max采样SynthID
推荐理由：做 LLM 内容溯源或版权保护的团队终于有了一个既不影响生成质量、又能抗稀释的实用方案，建议关注其蒸馏检测能力。
原文