精选理由
这篇论文提出MADreMIA方法，用链式再生替代影子模型，显著提升对生成模型隐私泄露的检测灵敏度。
MADreMIA是一种模型无关的框架，利用链式再生迭代轨迹增强白盒、灰盒和黑盒下的成员推理（MIA）与数据集推理（DI）攻击。相较于依赖影子模型训练的传统方法，该方法通过复用生成输出作为输入，在低误报率下提升成员证据。实验表明，记忆训练样本在迭代再生中表现出更高一致性和更慢退化。论文在图像自回归模型、扩散模型和语言模型上进行了全面评估，并在音频模型上展示了初步结果。
AI 翻译 · 中文
MADreMIA是一种模型无关的框架，利用链式再生迭代轨迹增强白盒、灰盒和黑盒下的成员推理（MIA）与数据集推理（DI）攻击。相较于依赖影子模型训练的传统方法，该方法通过复用生成输出作为输入，在低误报率下提升成员证据。实验表明，记忆训练样本在迭代再生中表现出更高一致性和更慢退化。论文在图像自回归模型、扩散模型和语言模型上进行了全面评估，并在音频模型上展示了初步结果。
The tendency of large generative models to memorize training data makes sample verification critical for privacy auditing and copyright enforcement. Current membership (MIA) and dataset inference (DI) attacks often rely …