Transformer Circuits 九月更新：继任头与 SAE 过采样研究

Anthropic 的 Transformer Circuits 团队发布了 2024 年 9 月更新，包含两项小型研究进展。一是对“继任头”（successor heads）的深入调查，探索其在模型中的角色与机制；二是关于稀疏自编码器（SAE）中过采样数据的影响分析。这些更新延续了团队对神经网络可解释性的持续探索，为理解 Transformer 内部运作提供了新视角。对于关注 AI 安全与模型透明度的研究者而言，这些细节有助于改进模型监控与调试方法。