精选理由
这篇论文告诉你,连后门攻击的触发器颜色都不能随便选。在CelebA发色任务上白trigger专克金发、黑trigger专克黑发,实验设计很扎实。
该论文研究联邦学习中的语义后门攻击,利用口罩、墨镜等自然视觉对象作为触发器,仅改变颜色。在四类CelebA发色分类任务上,白色触发器对攻击金发类别更有效(成功率显著更高),黑色触发器对攻击黑发类别更有效。实验采用标准投毒目标与SABLE增强目标(结合分类损失、触发目标损失、特征分离损失及正则化),发现即使语义、位置和投毒预算不变,颜色也能显著改变攻击成功率,该结论在鲁棒聚合下依然成立。
AI 翻译 · 中文
该论文研究联邦学习中的语义后门攻击,利用口罩、墨镜等自然视觉对象作为触发器,仅改变颜色。在四类CelebA发色分类任务上,白色触发器对攻击金发类别更有效(成功率显著更高),黑色触发器对攻击黑发类别更有效。实验采用标准投毒目标与SABLE增强目标(结合分类损失、触发目标损失、特征分离损失及正则化),发现即使语义、位置和投毒预算不变,颜色也能显著改变攻击成功率,该结论在鲁棒聚合下依然成立。
Federated learning is vulnerable to backdoor attacks in which malicious clients inject poisoned updates while preserving benign-task performance. In this paper, we study a semantics-driven backdoor mechanism in which att…