声学对抗攻击:低频声波让AI视觉模型产生错误

Giving AI a Headache: Acoustic Adversarial Attacks to Computer Vision Applications

精选理由

可听声波让YOLO11误判

AI 摘要

研究表明,针对计算机视觉应用的声学对抗攻击可利用20千赫兹以下的可听声波共振商用摄像头,导致AI模型(如YOLO11)出现误分类、漏检或幻觉。相比先前使用超声波(>20千赫兹)的短距离攻击,低频声波传播距离更远。实验分析了图像分辨率、目标尺寸等特征对攻击成功率的影响,为防御策略提供了依据。

AI 翻译 · 中文

研究表明,针对计算机视觉应用的声学对抗攻击可利用20千赫兹以下的可听声波共振商用摄像头,导致AI模型(如YOLO11)出现误分类、漏检或幻觉。相比先前使用超声波(>20千赫兹)的短距离攻击,低频声波传播距离更远。实验分析了图像分辨率、目标尺寸等特征对攻击成功率的影响,为防御策略提供了依据。

arXiv cs.AIArtificial Intelligence (AI) is increasingly used to automate a variety of real-world computer vision (CV) applications, such as autonomous vehicle control, facial recognition, and security cameras. Recent research has s