10:45
官方账号arXiv cs.AI@Zifan Carl Guo, Laura Ruis, Jacob Andreas, Belinda Z. Li
73°
推荐理由：论文发现，用模型早期检查点的解释训练自己，它给出的解释反而更忠实于当前行为，能追踪行为变化，挺神奇的。
LM
共 1 条相关 AI 资讯
7月1日
10:45
论文发现，用固定反事实解释训练语言模型（LM）时，产生的解释更忠实于当前行为而非训练目标。该现象在谄媚（sycophancy）和拒绝（refusal）等任务中出现。即使同时进行其他后训练目标，解释也能追踪行为偏移。结果表明，固定数据集的反事实解释可作为可扩展的后训练信号。