#对抗鲁棒性

这篇论文用注意力头机制解释了越狱攻击无法完全消除安全特征，还提出一种无需训练的检测方法，效果不输传统对抗训练。

这篇论文用简单的NVML遥测就能高精度检测隐藏的ML训练，还能对抗各种伪装，对AI计算治理很有启发。

想检验你的世界模型扛不扛揍？ARB4WM这个新基准专门测视觉扰动下的鲁棒性，比单看动作空间全面多了。