Backdoor Attack 相关 AI 资讯 · AI 热点

6月16日

12:24

12:24

官方账号arXiv cs.LG@Xiaolin Li, Ning Wang, Ninghui Li, Wenhai Sun

该论文挑战了差分隐私（DP）固有增强联邦学习（FL）鲁棒性的假设。通过分析两种基线攻击策略，发现DP会掩盖恶意更新的统计特征，使现有防御失效。作者提出RING攻击，显式利用DP来隐藏恶意贡献，同时最大化攻击影响。在四个图像和文本数据集上的非独立同分布场景中，RING在中等隐私预算下对六种先进防御的平均攻击成功率达到90.3%，相比基线策略提升高达26.08倍。评估表明缓解该威胁会带来显著的效用权衡，暴露了差分隐私FL部署中的根本安全漏洞。

论文 Federated Learning Differential Privacy Backdoor Attack RING AI安全

推荐理由：这篇论文颠覆了'差分隐私天然防后门'的认知，提出了RING攻击，平均成功率90.3%，建议做联邦学习安全的都看看。