10:21arXiv cs.LG@Tomasz Maciazek精选该研究分析了高斯过程(GP)后验采样中释放样本路径的差分隐私(DP)性质。与标准DP机制不同,后验采样的内在随机性可提供隐私保证。作者推导了显式的Rényi-DP界限,将隐私泄露分解为后验均值依赖和后验协方差依赖部分,并指出有效岭正则化对隐私有显著影响。通过成员推理攻击实验,验证了隐私泄露与正则化强度、后验方差及释放样本路径数量之间的预测关系。在噪声观测任务中,隐私兼容的正则化在保持有用决策的同时仅带来适度效用损失。论文Gaussian ProcessDifferential PrivacyRényi-DPAI安全隐私保护推荐理由:这篇论文分析了GP后验采样的隐私性,不用额外加噪就能获得DP保证,还给了Rényi-DP界限。和标准加噪方法比,它更巧妙地利用了内生随机性。原文
12:24arXiv cs.LG@Xiaolin Li, Ning Wang, Ninghui Li, Wenhai Sun该论文挑战了差分隐私(DP)固有增强联邦学习(FL)鲁棒性的假设。通过分析两种基线攻击策略,发现DP会掩盖恶意更新的统计特征,使现有防御失效。作者提出RING攻击,显式利用DP来隐藏恶意贡献,同时最大化攻击影响。在四个图像和文本数据集上的非独立同分布场景中,RING在中等隐私预算下对六种先进防御的平均攻击成功率达到90.3%,相比基线策略提升高达26.08倍。评估表明缓解该威胁会带来显著的效用权衡,暴露了差分隐私FL部署中的根本安全漏洞。论文Federated LearningDifferential PrivacyBackdoor AttackRINGAI安全推荐理由:这篇论文颠覆了'差分隐私天然防后门'的认知,提出了RING攻击,平均成功率90.3%,建议做联邦学习安全的都看看。原文