精选理由
这篇文章发现了Claude模型内部有个‘大脑指挥部’——一小部分它能说出来的表征，其他都是自动在干。挺有意思的视角。
研究者发现Claude模型内部存在一组可言语化的特权表征，这些表征形成全局工作空间。这些表征仅占模型内部状态的一小部分，但可用于报告、控制和推理。相比之下，模型的大部分处理是自动且不可言语化的。该研究揭示了语言模型内部计算的可解释性结构。
AI 翻译 · 中文
研究者发现Claude模型内部存在一组可言语化的特权表征，这些表征形成全局工作空间。这些表征仅占模型内部状态的一小部分，但可用于报告、控制和推理。相比之下，模型的大部分处理是自动且不可言语化的。该研究揭示了语言模型内部计算的可解释性结构。