generalMulti-source

OpenAI 将在欧盟为 ChatGPT 和 Codex 输出添加 textGrain 隐形文本水印

OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印

Why we picked it

OpenAI 给 ChatGPT 和 Codex 的文本输出加了隐形水印,先在欧盟上线,API 用户还能自己选开不开,做内容检测的可以申请探测器。

OpenAI 宣布未来几周内在欧盟地区为符合条件的 ChatGPT 和 Codex 文本输出嵌入名为 textGrain 的隐形水印,以配合《欧盟人工智能法案》的内容透明要求。

Body

textGrain 在模型选词过程中嵌入统计信号,检测器可据此判断文本是否带有 OpenAI 水印。该功能发布时仅限欧盟,不设为全球默认;

全球 API 客户可从即日起选择为部分模型开启水印输出。获批的研究人员和专家组织可申请探测器访问,探测器只报告是否检测到水印,不涉及用户身份或对话内容。

Original · IT之家

OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印

IT之家 10 月 5 日消息,OpenAI 今日宣布,为配合《欧盟人工智能法案》的内容透明要求,未来几周将在欧盟地区符合条件的 ChatGPT 和 Codex 文本输出中加入机器可识别的隐形水印。 据介绍,文本水印技术名为 textGrain(文本粒水印) ,会在模型选词过程中嵌入不可见的统计信号。检测器通过识别该信号,判断一段文本是否带有 OpenAI 水印。 IT之家注意到,OpenAI 下一步将在欧盟推广文本水印。未来几周,团队将仅在欧盟所有计划中向符合条件的 ChatGPT 和 Codex 用户引入文本水印功能。值得一提的是,OpenAI 不会在发布时将文本水印设为全球默认。 OpenAI 将为 API 客户启用选择加入的水印功能。从今天起,全球的 API 客户将能够选择为部分模型添加水印文本输出。这让客户能够决定水印如何符合其透明度义务以及为用户提供的体验。团队还在与云合作伙伴合作,在未来几周内为通过其服务访问的 OpenAI 模型输出提供水印功能。 OpenAI 还将为研究人员和专家组织提供探测器访问,获批的研究人员和专家组织可以申请从今天开始。根据行为准则访问最初将根据具体情况逐案授予,以支持文本来源的评估和改进。该工具会报告是否检测到 OpenAI 水印,但不会透露用户身份或提示内容或对话内容。

Industry Coordinates & Source Verification

This report is categorized under AITOP's "general" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI regulation, compliance frameworks, and sovereign compute policy and US-China foundation model benchmarks and commercialization comparison and AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include OpenAI, ChatGPT, Codex, textGrain.

Source attribution: curated from IT之家. Cross-source corroboration: 11 independent sources have covered this development (including Tibor Blaho, Andrew Curran, theverge), confirming industry-wide signal strength.