10:08
arXiv cs.AI@Yanchen Yin, Dongqi Han, Linghui Li
推荐理由：这篇论文用注意力头机制解释了越狱攻击无法完全消除安全特征，还提出一种无需训练的检测方法，效果不输传统对抗训练。
全部 AI 动态
AI 相关资讯全量信息流
6月29日
10:08
该研究揭示越狱攻击并非消除所有安全特征，而是选择性抑制早期层的Adversarially Compromised Heads (ACHs)，而中间层的Safety-Aligned Heads (SAHs)保持鲁棒激活。消融实验表明，抑制少量ACHs即可在正常拒绝的输入上诱发出越狱行为，而移除SAHs会显著削弱中间层的安全激活。此外，通过直接读取这些持久激活信号（无需训练）即可获得与强对抗鲁棒性相当的聚合检测性能。
6月18日
10:56
10:56
arXiv cs.LG@Robi Rahman, Sabiha Tajdari
推荐理由：这篇论文用简单的NVML遥测就能高精度检测隐藏的ML训练，还能对抗各种伪装，对AI计算治理很有启发。
6月16日
20:46
AITOP6月16日 20:46
10:51
10:51
arXiv: Google DeepMind@Junjian Zhang, Hao Tan, Ruonan Li, Dong Zhu, Aiping Li, Zhaoquan Gu
推荐理由：想检验你的世界模型扛不扛揍？ARB4WM这个新基准专门测视觉扰动下的鲁棒性，比单看动作空间全面多了。
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
5月25日
11:26
11:26
arXiv cs.LG@Dongmin Lee, Anuran Makur, Japneet Singh
精选
推荐理由：做排序算法或对抗鲁棒性研究的团队，这篇论文给出了半随机对抗下谱方法的理论误差界，并提出了有效的重加权策略，值得关注。