#注意力头

给想让 LLM 报告内部状态靠谱一点的人：这篇用 attention head 层面拆解了模型怎么发现和定位被注入的激活扰动。

这篇论文提出了Transformer注意力头在表格数据中的重要性评分方法，能帮你优化模型结构并提高效率。

这篇论文给出了一个白盒方法ROBIN，能精准定位模型中的偏见注意力头并修复，比直接抹掉整个头效果好。

这篇论文用注意力头机制解释了越狱攻击无法完全消除安全特征，还提出一种无需训练的检测方法，效果不输传统对抗训练。

做模型可解释性研究或想深入理解 Transformer 内部机制的开发者，HeadVis 提供了一个直观的交互式分析工具，值得一试。