15:35
官方账号arXiv cs.AI@Yiqi Liu, Yang Wang, Songxin Wang, Chenghao Xiao, Chenghua Lin
推荐理由：这篇论文用因果干预实验拆解了LLM拒绝机制，发现答案释放和拒绝恢复不对称，对AI安全审计很有参考价值。
拒绝机制
共 1 条相关 AI 资讯
8月18日
15:35
该研究通过受控保留设置，对语言模型拒绝回答时的内部机制进行了因果分析。研究发现，即使模型生成干净拒绝，正确答案仍可从隐藏状态线性恢复。释放被抑制的答案只需单位置补丁，而重新施加抑制则需要跨多个位置的干预。平均答案到拒绝的位移向量不能作为可靠的可逆线性控制开关。这表明拒绝并非简单对称开关，探针可恢复性可能高估真实行为控制能力。