Concentrated perturbation(集中式扰动)是机器学习对抗攻击研究中的一个概念,指攻击者将扰动限制在输入图像的局部区域而非全局分散施加。它与传统的 Lp 范数约束攻击形成对比,近年随着对抗鲁棒性讨论的深入,局部集中式攻击能否有效绕过现有防御成为该方向的关注点。
Concentrated Perturbations 近期进展
当前焦点与观察点
对抗鲁棒性研究中,不同范数对应不同的威胁模型:ℓ∞ 攻击趋向全局均匀的小扰动,ℓ₀ 攻击只改动少量像素,而 ℓ₁ 攻击介于两者之间,天然与 concentrated perturbation 概念相关。核心争议在于:现有防御机制大多针对全局扰动设计,对局部高度集中的攻击是否具备足够防御能力,尚缺乏一致的实证结论。
观察该方向的后续进展,可以关注三点:一是 ℓ₁ 攻击中集中性与攻击成功率之间的定量关系能否被更严谨地刻画;二是研究成果能否转化为对实际模型(如视觉识别系统)的鲁棒性评估标准;三是防御侧是否会针对局部集中式扰动发展出专门的检测与正则化手段。总体来看,这一话题仍以学术讨论为主,尚未形成工程落地的明确路径。