10:45
官方账号arXiv cs.AI@Zifan Carl Guo, Laura Ruis, Jacob Andreas, Belinda Z. Li
73°
推荐理由：论文发现，用模型早期检查点的解释训练自己，它给出的解释反而更忠实于当前行为，能追踪行为变化，挺神奇的。
反事实解释
共 2 条相关 AI 资讯
7月1日
10:45
论文发现，用固定反事实解释训练语言模型（LM）时，产生的解释更忠实于当前行为而非训练目标。该现象在谄媚（sycophancy）和拒绝（refusal）等任务中出现。即使同时进行其他后训练目标，解释也能追踪行为偏移。结果表明，固定数据集的反事实解释可作为可扩展的后训练信号。
6月16日
10:52
10:52
官方账号arXiv cs.LG@Eric Günther, Balázs Szabados, Kristof Meding, Gunnar König, Sebastian Bordt, Ulrike von Luxburg
推荐理由：这篇论文提出了解释卡，能帮你避免被算法解释误导，而且用SHAP和反事实解释举了具体例子。