Backdoor attacks(后门攻击)是一类针对机器学习模型的隐蔽攻击方式:攻击者在训练数据或训练过程中植入触发器,使模型在正常输入下表现正常,而一旦输入包含特定触发模式就会输出攻击者指定的结果。随着深度学习和基础模型被广泛部署,后门攻击已成为模型供应链安全中的核心威胁之一,防御研究也持续跟进。
Backdoor Attacks 近期进展
当前焦点与观察点
近期研究呈现两个方向:一是攻击面的扩张,从传统图像分类延伸到人脸识别流水线、联邦学习和世界模型智能体;二是防御手段的工程化,从单一检测算法转向多环节组合防御。争议点在于检测的可靠性——理论上模型可以隐藏任意能力,意味着没有任何防御能给出绝对保证。
值得观察的问题包括:随着智能体系统落地,针对世界模型和规划过程的后门攻击是否会成为新的主流威胁;联邦学习等多方协作训练场景如何在隐私与可验证性之间权衡;以及模型供应链(预训练、微调、第三方权重)的审计机制能否跟上攻击技术的演进。