AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：后门攻击×
6月25日
09:44
09:44arXiv cs.AI@Kavindu Herath, Joshua C. Zhao, Saurabh Bagchi
该论文研究联邦学习中的语义后门攻击，利用口罩、墨镜等自然视觉对象作为触发器，仅改变颜色。在四类CelebA发色分类任务上，白色触发器对攻击金发类别更有效（成功率显著更高），黑色触发器对攻击黑发类别更有效。实验采用标准投毒目标与SABLE增强目标（结合分类损失、触发目标损失、特征分离损失及正则化），发现即使语义、位置和投毒预算不变，颜色也能显著改变攻击成功率，该结论在鲁棒聚合下依然成立。
论文联邦学习后门攻击触发器颜色语义后门CelebA
推荐理由：这篇论文告诉你，连后门攻击的触发器颜色都不能随便选。在CelebA发色任务上白trigger专克金发、黑trigger专克黑发，实验设计很扎实。
原文
6月16日
20:46
10:04
10:04arXiv: Anthropic@David Huang, Jaewon Chang, Avidan Shah, Prateek Mittal, Chawin Sitawarin
这篇论文揭示了对快速响应（RR）框架的投毒攻击方法，RR框架部署于生产系统（如Anthropic的ASL-3安全防护），用于持续改进越狱检测分类器。攻击者通过在越狱样本中注入提示词，可以渗透训练管道，实现两种攻击目标：第一种是针对性投毒，在无害样本上制造假阳性（分类为越狱），特定特征（如格式、主题、关键词）可触发。第二种是基于概念的后门攻击，在存在后门触发器的越狱输入上诱导假阴性，甚至能泛化到防御方已训练过的攻击策略。论文提出的Omission Attack利用了一个新现象：训练时缺少特定概念的unsafe样本，会导致分类器将该概念的出现与safe标签错误关联。在仅1%的投毒率下，两种攻击分别实现高达100%的假阳性率和96%的假阴性率。
论文Rapid ResponseAnthropic投毒攻击后门攻击ASL-3
推荐理由：这篇论文讲了对Anthropic等用的越狱检测防御框架的投毒攻击方法，投毒率才1%就能让检测器几乎失效，搞安全的一定要看。
原文
09:51
09:51arXiv cs.LG@Zhenyu Yu
InstantForget是一种新的后门遗忘方法，无需更新模型参数即可在推理时移除恶意触发行为。在CIFAR-10 ResNet-18上，它针对BadNets、WaNet、Blended和SIG四种触发方式，将平均攻击成功率（ASR）降至0.071。该方法通过马氏距离标记异常特征并重置为中性表示，达到0.981的检测AUROC，并成功迁移至六种主干网络。论文还揭示了投影假设在WaNet等触发下的失效（ASR分别达0.683、0.888和0.941），并用logit-trilplet间隙预测失败。
论文InstantForget后门攻击模型安全CIFAR-10推理时
推荐理由：这篇论文提出InstantForget，不用重新训练就能清除模型后门，在CIFAR-10上把攻击成功率压到7%，还搞了个检测机制AUROC 98%，挺实用的。
原文
6月12日
12:57
6月11日
15:28
15:23
15:07