隐私审计相关 AI 资讯 · AI 热点

7月1日

10:17

10:17

官方账号arXiv cs.AI@Wojciech Łapacz, Stanisław Pawlak

MADreMIA是一种模型无关的框架，利用链式再生迭代轨迹增强白盒、灰盒和黑盒下的成员推理（MIA）与数据集推理（DI）攻击。相较于依赖影子模型训练的传统方法，该方法通过复用生成输出作为输入，在低误报率下提升成员证据。实验表明，记忆训练样本在迭代再生中表现出更高一致性和更慢退化。论文在图像自回归模型、扩散模型和语言模型上进行了全面评估，并在音频模型上展示了初步结果。

论文 MADreMIA 成员推理 Model Autophagy Disorder 扩散模型隐私审计

推荐理由：这篇论文提出MADreMIA方法，用链式再生替代影子模型，显著提升对生成模型隐私泄露的检测灵敏度。

6月16日

11:13

11:13

官方账号arXiv cs.LG@Kareem Amin, Rudrajit Das, Alessandro Epasto, Adel Javanmard, Dennis Kraft, Mónica Ribero, Sergei Vassilvitskii

该论文提出一个可定制的实证审计框架，用于检测合成数据中的隐私泄露。框架区分“真泄露”（系统直接复制用户信息）与“幻影泄露”（偶然生成用户数据）。通过将数据分为训练集和留出集，并应用统计假设检验，可判断泄露是否超出零学习或差分隐私基线。该方法无需模型访问、无需插入蜜罐、无需训练参考模型，仅需合成输出和留出控制集。实验表明，它作为成员推理攻击，能提供比传统数据审计方法更紧的隐私泄露下限，且计算资源需求少几个数量级。

论文合成数据隐私审计差分隐私成员推理攻击 LLM

推荐理由：想审计合成数据是否偷学了你的信息？这篇论文给出了一个轻量级方案，无需模型权限，只需输出和留出集就能揪出隐私泄露。

5月27日

10:51

10:51

官方账号arXiv cs.LG@Mathieu Dagréou, Aurélien Bellet

精选

该论文研究了机器学习模型隐私审计中的金丝雀（canary）生成问题，旨在通过单次训练运行高效评估隐私泄露。作者提出一种结合影响函数贪婪初始化与双层优化的方法，生成既高可检测又低干扰的金丝雀，通过促进嵌入空间多样性减少金丝雀间干扰。实验表明，该方法在更低计算成本下获得比现有方法更强的隐私泄露估计，为差分隐私审计提供了实用改进。

论文隐私审计差分隐私金丝雀生成双层优化影响函数

推荐理由：做隐私审计或差分隐私研究的团队，这篇论文直接解决了单次运行审计中金丝雀干扰的痛点，提出的方法计算效率高且效果更好，值得点开看具体实现。