Differential Privacy 相关 AI 资讯 · AI 热点

7月8日

10:12

10:12

官方账号arXiv cs.LG@Nikita P. Kalinin, Rasmus Pagh

本文提出了一种名为Dithered Gaussian Mechanism的新机制，作为离散高斯机制的替代方案。该机制通过对高斯机制的输出进行后处理离散化，继承了标准高斯机制的隐私保证，并避免了浮点数精度漏洞。理论证明，该机制能显著减少高质量随机位的需求，并使其独立于噪声水平。在DP-SGD的应用中，该机制实现了加密级随机性生成，且实际开销可控。

论文 Dithered Gaussian Mechanism Differential Privacy DP-SGD 差分隐私隐私保护

推荐理由：这篇论文提出了一种更实用的差分隐私机制，在DP-SGD中能用更少的真随机数实现同等隐私保护，对关注隐私保护的开发者很有价值。

6月17日

10:21

10:21

官方账号arXiv cs.LG@Tomasz Maciazek

精选

该研究分析了高斯过程（GP）后验采样中释放样本路径的差分隐私（DP）性质。与标准DP机制不同，后验采样的内在随机性可提供隐私保证。作者推导了显式的Rényi-DP界限，将隐私泄露分解为后验均值依赖和后验协方差依赖部分，并指出有效岭正则化对隐私有显著影响。通过成员推理攻击实验，验证了隐私泄露与正则化强度、后验方差及释放样本路径数量之间的预测关系。在噪声观测任务中，隐私兼容的正则化在保持有用决策的同时仅带来适度效用损失。

论文 Gaussian Process Differential Privacy Rényi-DP AI安全隐私保护

推荐理由：这篇论文分析了GP后验采样的隐私性，不用额外加噪就能获得DP保证，还给了Rényi-DP界限。和标准加噪方法比，它更巧妙地利用了内生随机性。

6月16日

12:24

12:24

官方账号arXiv cs.LG@Xiaolin Li, Ning Wang, Ninghui Li, Wenhai Sun

该论文挑战了差分隐私（DP）固有增强联邦学习（FL）鲁棒性的假设。通过分析两种基线攻击策略，发现DP会掩盖恶意更新的统计特征，使现有防御失效。作者提出RING攻击，显式利用DP来隐藏恶意贡献，同时最大化攻击影响。在四个图像和文本数据集上的非独立同分布场景中，RING在中等隐私预算下对六种先进防御的平均攻击成功率达到90.3%，相比基线策略提升高达26.08倍。评估表明缓解该威胁会带来显著的效用权衡，暴露了差分隐私FL部署中的根本安全漏洞。

论文 Federated Learning Differential Privacy Backdoor Attack RING AI安全

推荐理由：这篇论文颠覆了'差分隐私天然防后门'的认知，提出了RING攻击，平均成功率90.3%，建议做联邦学习安全的都看看。