differential-privacy

general · First seen 2026-05-22 · Last seen 2026-10-30 · 26 mentions

Overview

差分隐私(differential privacy,DP)是一种通过向数据或模型训练过程注入可控噪声,来严格限制任意单条记录对输出结果影响的隐私保护框架,目前已成为联邦学习、大模型微调和数据发布等场景中应用最广泛的数学化隐私标准。近期研究呈现出两条主线:一是降低 DP 带来的效用损失、提升训练效率,二是让隐私保护本身变得可验证、可审计。

差分隐私近期进展

  • Google Research Moves Federated Learning Into TEEs: Gboard Now Trains With Externally Verifiable Differential Privacy:2026 年 10 月 4 日报道,Google 将 Gboard 的联邦学习迁移到可信执行环境(TEE)中,实现了可由外部验证的差分隐私训练。这意味着 DP 噪声的注入过程可以被第三方核实,而不再只是服务商的单方面承诺,是「可审计隐私」方向的标志性落地案例。
  • Dithered Gaussian Mechanism:一种高效随机性的差分隐私方法:提出抖动高斯机制,通过更高效的随机性生成方式降低 DP 噪声带来的计算与通信开销,属于机制层面对隐私-效用权衡的改进。
  • 隐私对齐联邦学习新方法提升效率:将隐私对齐思路引入联邦学习,在满足 DP 约束的同时提升训练效率,缓解隐私预算与模型性能之间的典型矛盾。
  • RING攻击:差分隐私联邦学习中的后门威胁:揭示了 DP 并非万能——即便部署了差分隐私的联邦学习系统,仍可能遭受后门攻击。这提示 DP 主要抵御成员推断等隐私攻击,对完整性攻击需要额外防御。
  • 当前焦点与观察点

    从近两个月的研究分布看,差分隐私的工作大致集中在三类问题。其一是效率优化,例如 DP-IVON-Gradsq(arXiv:2607.23649)探索二阶优化器在私有训练中的应用,SSTQ(arXiv:2608.05127)将隐私保护与向量量化结合以压缩通信。其二是合成数据路线,多篇工作(如 Private Generative Bootstrap、联邦学习中的协同合成数据生成)尝试用 DP 合成数据替代直接在私有数据上训练,把隐私成本一次性转移。其三是理论度量本身的重估,Predictability as a Fine-Grained Measure for Privacy 提出以可预测性作为更细粒度的隐私度量,质疑单一 ε 参数是否足以刻画真实风险。

    值得关注的是,RING 攻击与可验证 DP 恰好构成一组对照:前者说明 DP 无法覆盖所有安全属性,后者说明 DP 的落地正在从「声明式」走向「可证明」。对实践者而言,接下来的观察点是外部可验证 DP 是否会从 Gboard 这类消费级产品扩展到更多隐私敏感场景,以及合成数据方法能否在严格的隐私预算下保持足够的模型效用。

    Coverage

    10 on file