12:46
官方账号arXiv cs.LG@Ananth Eswar, Pratinav Seth, Utsav Avaiya, Vinay Kumar Sankarapu
推荐理由：这篇论文直接检验了神经元归因方法的可靠性，发现高秩稳定的选择器反而可能因果失效，对模型可解释性和安全编辑很有启发。
attribution methods
共 1 条相关 AI 资讯
7月7日
12:46
该论文对五个大型语言模型（LLMs）进行单次神经元行零化审计，测试归因方法能否识别因果重要的神经元行。归因方法在识别可丢弃行方面显著优于激活和幅度基线。通过对比有害与良性信号驱动干预，归因行足以在仇恨和犯罪内容上安装拒绝行为，同时保持良性过度拒绝率较低且不影响语言模型流畅性。高秩稳定性选择器可能因果有效性最低，且拒绝行为存在于冗余子空间中，不同归因方法通过几乎不相交的行集实现拒绝。