Anthropic为部分Claude模型添加文本水印,回应关切
部分 Claude 模型将添加“文本水印”,Anthropic 回应各界关切
Anthropic给Claude加了隐形水印,复制改几遍还能查出来,还免费开放检测API,跟谷歌OpenAI的水印路线不太一样。
Anthropic宣布在部分Claude模型输出中嵌入难以察觉的文本水印,复制粘贴或修改后仍可能保留。公司计划提供免费API,让普通用户和第三方自行检测文本是否带有Claude水印。
Anthropic回应称水印不会改变Claude回答的含义、质量或可读性。水印代表Claude曾处理过文本,即使仅用于校对或翻译也可能保留。
自8月2日起,全球范围内受支持的Claude模型已开始使用该水印,以遵守欧盟《人工智能法》。
部分 Claude 模型将添加“文本水印”,Anthropic 回应各界关切
IT之家 8 月 13 日消息,Anthropic 本周宣布,部分 Claude 模型会直接在输出文本中嵌入一种“难以察觉的水印”。内容被复制粘贴后,水印仍会随文本保留,经过一定程度修改后也可能继续存在,用于帮助判断一段文字究竟由 AI 生成还是由人类撰写。 Anthropic 目前尚未公开水印系统的完整技术原理。技术细节的不透明已经引发一些科技从业者担忧。具体来看,版权如何认定、Claude 输出质量是否会受到影响,以及只使用 AI 进行少量辅助的作品会不会因此被误判等问题,备受关注。 据《商业内幕》今天(12 日)晚间报道,Anthropic 方面对于各界关心的问题作出了回应。 谁能识别水印? 科技投资人比尔 · 格利担心,如果只有 Anthropic 能够识别水印,Anthropic 就可能同时扮演“ 法官、陪审团和检察官 ”的多重角色。 Anthropic 发言人回应说,公司计划提供免费的应用程序接口(API), 让普通用户和第三方也能自行检测 一段文字是否带有 Claude 水印。 只让 AI 稍作修改的内容怎么算? 一些开发者还担心,如果 Anthropic 通过特定词语组合来标记 AI 生成文本,水印机制可能会影响 Claude 本身的回答。Anthropic 发言人称, 水印不会改变 Claude 回答的含义、质量或可读性 。 数字医疗机构 Klick 生成式 AI 负责人西蒙 · 史密斯周二在 X 发文称,他担心仅由 AI 做过轻微处理的文字也会被认定为 AI 创作,例如只是把一篇文章交给 Claude 检查语法。 Anthropic 表示,水印代表的 是 Claude 曾经处理过文本 ,并不能证明整段文字都是 Claude 写的。即使 Claude 只负责校对、翻译或总结,水印也可能继续保留。 对版权会有何种影响? 微软前高管史蒂文 · 辛诺夫斯基把关注点放在了 数字隐私 上。“真正的问题是数据保留,以及你是否有权拥有不留下数字痕迹的私人想法。” 软件工程师培训师兼教练约翰 · 克里克特也提出,如果 AI 生成的代码带有水印,版权认定可能会变得更加复杂,因为作者届时可能难以证明作品中 包含足够多的人类创作投入 。 Anthropic 回应称,公司加入水印是为了 遵守欧盟《人工智能法》 。从 8 月 2 日起,全球范围内受支持的 Claude 模型生成文本已经开始使用该水印。 Anthropic 并非唯一采用水印技术的 AI 公司。谷歌使用 SynthID 为 AI 生成内容添加水印,OpenAI 也在部分图片和音频中使用 SynthID。 马斯克旗下社交平台 X 也会给系统判断为 AI 生成或经过 AI 处理的内容加上“由 AI 制作”标签。周三,即将离任的白宫新闻秘书卡罗琳 · 莱维特发布辞职帖时一度被加上该标签,随后又消失。 相关阅读: 《 Anthropic 为 Claude 生成 AI 内容添加水印,网友吵翻了 》
This report is categorized under AITOP's "Products" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Key entities and technical topics under continuous tracking include Anthropic, Claude, 文本水印, AI监管.
Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including Anthropic: Newsroom, Claude, techcrunch), confirming industry-wide signal strength.