09:16
官方账号arXiv cs.AI@Xiang Chen, Yingying Zhao, Chao Li, Jiaju Han, Ben Zhang, Ang Li, Jiahuan Long, Yiwei Wei, Jiujiang Guo, Chengyin Hu
推荐理由：红外视觉模型能被QR码图案定向误导？论文提出QR-STT，黑盒无需训练，改分类还影响问答，AI安全党可以看看。
QR-STT
共 1 条相关 AI 资讯
8月3日
09:16
论文提出QR-STT，一种无需训练的黑盒攻击框架，用于定向操控红外视觉语言模型的语义输出。该方法将QR码划分为冷、中、热三种温度模块，并通过无梯度优化搜索模块布局和渲染参数。实验在多个CLIP风格编码器上验证，QR-STT能稳定将图像-文本对齐导向攻击者选定的概念。针对分类任务优化的扰动还能迁移到图像描述和视觉问答，使生成文本出现目标一致的语义偏移。