12:28
官方账号arXiv cs.LG@Qi Li, Xingyi Yang, Xinchao Wang
推荐理由：这篇论文发现WAM模型有严重安全漏洞——加一点点视觉干扰，机器人就会想象正常但行动出错，成功率从96%掉到43%。搞机器人安全的得看看。
BadWAM
共 1 条相关 AI 资讯
7月17日
12:28
BadWAM提出了一种针对世界-动作模型（WAM）的统一对抗攻击框架，利用微小视觉扰动破坏模型对动作与未来预测的耦合。该框架包含两种攻击：动作对抗攻击直接将任务成功率从96.5%降至43.1%；想象保持攻击则在维持未来预测接近原始结果的同时诱导有害动作偏移。实验揭示了WAM特有的漏洞：模型可能想象出合理的未来，但执行的动作已失配。