Anthropic 官方详解 Claude 文本水印工作原理
Anthropic 的篇官方技术说明,解释 Claude 文本水印的具体工作方式。https://t.co/zBCEcRvFcR Claude 用的是 Google DeepMind 2024 年发...
Anthropic 官方 FAQ 讲清了 Claude 水印的原理和影响,基于 SynthID-Text 方案,不影响输出质量,检测 API 快出了。想弄懂这事可以看。
Anthropic 发布官方技术说明,解释 Claude 文本水印基于 Google DeepMind 2024 年发表于《Nature》的 SynthID-Text 方案。
水印通过密钥改变选词随机数来源,但 Anthropic 称不会让模型选用本不会选的词,读者也无法区分带水印与不带水印的文本。Anthropic 援引 Gemini 真实流量用户反馈,称水印对内容质量、创意水平或可读性没有统计显著影响。
水印不携带用户身份信息,短文本和纯事实性内容难以检测,Anthropic 的检测 API 尚未完全就位。
Anthropic 的篇官方技术说明,解释 Claude 文本水印的具体工作方式。https://t.co/zBCEcRvFcR Claude 用的是 Google DeepMind 2024 年发...
Anthropic 的篇官方技术说明,解释 Claude 文本水印的具体工作方式。 x.com/trq212/status/… Claude 用的是 Google DeepMind 2024 年发表在《Nature》上的 SynthID-Text 方案,往上追溯可以到 Scott Aaronson 2022 年的提案。这一脉方案的共同特征是在模型选词时,用密钥改变随机数的来源,从而在输出中留下统计痕迹。 Anthropic 举了个例子帮助理解。假设模型写到“今天天气很冷,而且……”,下一个词可能是“阴沉”,也可能是“灰蒙蒙的”,对读者来说意思差不多。正常情况下,模型用一个随机数在这些候选词里选一个。加了水印之后,选词过程还是随机的,但随机数的来源变了,变成由密钥和前面的词共同决定。文本读起来完全一样,但事后拿着密钥去核对选词序列,就能算出这段话是 Claude 写的概率。 Anthropic 在文中特别强调了一点:水印不会让模型选它本来不会选的词。模型不会因为水印而突然用一个生僻词(文中举的例子是 nubilous,一个几乎没人用的“阴天”的同义词)。水印只在模型本就犹豫的那些选择上起作用。 然后是大家最关心的:会不会降低输出质量? Anthropic 说他们内部测试没有观察到水印对内容质量、创意水平或可读性的影响。他们援引了 Google DeepMind 的数据作为佐证:Google 在 Gemini 的实际流量中给一部分用户提供了带水印的模型,对比用户的点赞点踩反馈,两组没有统计显著差异。同时在受控实验中,人类评估者把带水印和不带水印的回答放在一起对比,也看不出区别。 打个比方:想象你在玩大富翁,本来每回合掷骰子决定走几步。现在改成查圆周率的小数位来决定,从某一位开始,依次读下去。对玩家来说,每一步还是随机的,游戏体验没有变化。但如果有人事后看走步的完整序列,再对照圆周率,就能判断这盘游戏用的是圆周率而不是骰子。 关于代码,Anthropic 的解释是:水印只在选哪个词都行的地方起作用。代码大量地方必须精确,“2+2=”后面只能跟 4,水印无从施加。所以代码的水印密度天然就比自然语言低。不过在代码注释、变量命名这些有选择余地的地方,水印仍然可以嵌入。 还有一个之前没怎么讨论的重要信息:水印不携带任何用户身份信息。不能追溯到具体的用户、组织或对话。水印只回答一个问题,“这段文字是否可能经过 Claude 处理”,仅此而已。 文章中也提到了水印的局限。短文本检测不了,信号太弱。纯事实性内容(比如“牛顿最著名的著作叫《自然哲学的数学原理》……”)水印也没什么发挥空间,因为下一个词几乎没有选择余地。你让 Claude 校对一篇文章只改语法标点,大部分词还是你的,水印可能根本不够形成可检测的信号。 轻度编辑大概率不会完全去掉水印。但如果把每个词都换一遍,水印就没了,当然到这个程度,这段文字算不算 AI 生成的本身也值得商榷了。 至于为什么全球统一加水印而不只在欧盟范围内执行,Anthropic 给出的理由是他们目前没有一个可靠的方式按地区区分是否施加水印。所以干脆全球统一上线,后续再评估是否调整。 检测端还没有完全就位。Anthropic 表示很快会推出水印检测 API,但具体时间和使用方式还在敲定中。这也呼应了 Alex Cui 之前提到的一个关键问题:检测器是公开还是内部使用,会直接影响水印的实际安全性。 顺便说一下,签署这份欧盟透明度行为准则的不止 Anthropic 一家,总共有大约 190 个签署方。水印不是 Claude 独有的事情,其他大模型厂商也会陆续跟上各自的方案。
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include Anthropic, Claude, SynthID-Text, text watermarking.
Source attribution: curated from 宝玉 (@dotey). Cross-source corroboration: 11 independent sources have covered this development (including Decoder, AI Breakfast, Anthropic: Newsroom), confirming industry-wide signal strength.
- Decoder08-14 21:29Source
- AI Breakfast08-16 15:58Source
- Anthropic: Newsroom08-14 22:15Source
- IT之家08-15 07:16Source
- Gary Marcus08-14 22:07Source
- techcrunch08-15 18:58Source
- Dario Amodei08-15 22:44Source
- Claude Code: GitHub Releases08-17 20:20Source
- The Rundown AI08-14 10:30Source
- Harrison Chase08-14 19:03Source