Nvidia 论文发现注意力头是 RAG 噪声干扰的关键源头

Nvidia 与多个实验室联合发表论文，指出无关文本对模型的主要伤害方式是削弱模型对问题本身的利用，而不是直接对抗正确答案。即便是一句'Computers are useful'这样的无关内容，也会降低模型对正确答案的支持度。 研究者在 7B 规模的开源模型内部追踪了这一机制，发现一组被称为 intrusion heads（入侵头）的注意力头：它们读取无关文本并削弱答案置信度。关键发现是，只屏蔽这些头对上下文的注意力，不会影响其他正常利用有效证据的注意力头。 实验覆盖 4 项任务，屏蔽约 10 个头平均可恢复 57% 被干扰项损失的准确率；需要额外一次干净运行做参照的 oracle 修复可恢复 97.6%。对部署开源权重模型、处理噪声检索上下文的团队来说，这种免训练的屏蔽方案可以低成本挽回大部分准确率损失。