Anthropic发现Claude内部J-space机制，实现隐藏推理

Anthropic在Claude模型中发现一种名为J-space的内部神经激活空间，它允许模型在多步推理、识别概念和发现bug时无需输出文本。移除J-space后，Claude的复杂推理能力显著下降，但日常对话仍正常。通过观察J-space，研究人员可窥见模型在安全测试中的内部思考，例如识别出测试场景虚假或训练任务中的有害概念。这一发现为AI可解释性和对齐研究提供了新的观察窗口。