PapersBuilders13:48Chinese content研究:后训练改变模型内部表征的读出方式而非表征本身这篇论文很有意思:模型内部其实'知道'答案,但后训练把它读歪了。作者用探针加信号检测论量化了这一点,还证明 2000 条标注数据就能扭转读出方向。做模型微调或可解释性研究的人应该看。#linear probes#post-training#SFT#interpretabilityaarXiv cs.LG@Jochen LaubrockSourceRead laterReadWorth followingUsefulFollow linear probes