Provenance(来源追溯/数据溯源)指对数据、内容或信息片段的来源与流转历史进行记录和验证的机制。在 AI 领域,它处于从“可选项”走向“基础设施”的位置:随着大模型生成内容与人类内容难以区分,无论是科研评审、新闻报道还是合成训练数据,都需要 provenance 来回答“这段信息从哪来、是否可信”这一基本问题。
Provenance 的近期进展
当前焦点与观察点
目前关于 provenance 的讨论集中在三条线上。其一是内容认证的标准化:剪映(CapCut)宣布准备引入隐形水印并采用 C2PA 标准,表明主流创作工具开始把来源标识作为默认能力落地,C2PA 有望成为 AI 生成内容溯源的事实性规范。
其二是 provenance 在 AI 系统内部的延伸。上述研究显示,溯源不再只针对“生成内容是否为 AI 所作”,还扩展到智能体记忆、训练数据、评审意见等环节——凡是大模型参与产出或消费的信息流,都在被纳入来源管理范围。
其三是机制本身的局限。记忆投毒研究提醒,来源标签与排序不能替代内容质量判断,攻击者可能伪造或污染溯源链条。如何在攻击面前保持 provenance 信息的可信性,以及它能否与水印、检索验证等技术互补,是接下来值得持续观察的核心问题。