11:12
官方账号arXiv cs.LG@Andrzej Szablewski, Gabriel Konar-Steenberg, Raffaello Fornasiere, Nikita Menon, Stefan Heimersheim
推荐理由：这篇论文用大量对比实验告诉你：训练方法不同，模型可解释性天差地别。想用模型有机体做可解释性研究的话，得先看看训练方式合不合适。
OLMo2-1B
共 1 条相关 AI 资讯
7月2日
11:12
研究构建了54个基于OLMo2-1B和gemma-3-1b-it的模型有机体，采用7种不同训练技术（包括后训练SFT、DPO以及更现实的集成训练）。通过激活oracle、激活引导、logit lens和稀疏自编码器等基准测试发现，模型有机体的可解释性强烈依赖于训练目标、目标行为、模型架构和数据生成流程。即使控制目标行为表达强度，各条件下的可解释性方差依然显著。更现实的集成训练方法往往比标准后训练方法产生更不可解释的模型有机体。这些结果质疑了当前模型有机体作为可解释性代理的有效性。