#对抗攻击

用一块贴纸大小的补丁就能让机器人世界模型成功率归零，还能跨模型迁移，做机器人安全研究的可以看看这篇攻击机制分析。

arXiv 上这篇论文提出 ST 攻击包装器，不换模型就能让对抗攻击更隐蔽，LPIPS 提升 17% 还不掉成功率，做对抗鲁棒性研究的可以看看。

这篇论文讲的是怎么用LLM攻破机器人检测，又怎么用多LLM防住，准确率数字很具体，搞安全或社交平台的朋友值得看看。

拿一个贴了纹理的物体就能让 OpenVLA 和 π0.5 的成功率从 90% 掉到 48%，还能跨模型生效，搞机器人安全的可以看看。

这篇论文发现自适应无人机跟踪器的动态路由能被人用微小噪声劫持，让跟踪跑偏。攻击比现有方法更隐蔽、更快。

研究者发现GUI模型把坐标当数字token生成时容易被攻击，MissClick在OS-Atlas和UGround上能把点击位置带偏，成功率比现有攻击高出几十个百分点。

ConformalShift 攻击心电监测，不改波形和标签，只重排真实事件顺序，成功率从 4.4% 提到 66.7%。

红外视觉模型能被QR码图案定向误导？论文提出QR-STT，黑盒无需训练，改分类还影响问答，AI安全党可以看看。

这篇论文教你如何通过修改网页内容让大模型推荐时把你想要的东西排第一。SIREN用PAIR越狱循环，在Claude模型上成功率80%，挺有意思的。

这篇论文用对抗训练加高斯增强，把NIDS被FGSM攻击后的26%准确率拉回96%，实测有效。

这篇论文发现WAM模型有严重安全漏洞——加一点点视觉干扰，机器人就会想象正常但行动出错，成功率从96%掉到43%。搞机器人安全的得看看。

这篇论文告诉你一个防止投毒攻击的微调方法：只学有效适配器的子空间，在flan-t5-large上比LoRA安全很多。

这篇论文提出了Blackknife，一种能在几乎无信息条件下攻击HGNN的黑盒方法，只用少量查询就能成功扰动图结构，值得一看。

这篇论文搞了个GAversary，用遗传算法和GloVe嵌入做黑盒文本攻击，能把模型准确率从76.8%打到5.8%，比BAE狠多了。

想看看LLM安全到底有多脆弱吗？这个研究用遗传算法黑盒越狱，效果惊人，开发者应该留意。

可听声波让YOLO11误判

做AI安全或智能体开发的团队需要警惕——这种看似荒诞的攻击方式暴露了护栏机制的系统性漏洞，建议立即检查你的模型对分布外输入的鲁棒性。

Ethan Mollick@emollick原文