Anthropic发现Claude内部类似人脑的'思考空间'J-space

Anthropic团队在Claude内部发现了一个名为J-space的区域，仅占模型总活动的不到十分之一，一次只装几十个概念。该区域与人类有意识的思考活动高度相似，删除后Claude的多步推理、总结和押韵写作能力大幅下降甚至归零。通过J-lens方法，研究者能读取Claude未说出口的想法，如意识到自己被测试、编造数据时的造假意图。他们还开发了一种新训练法，只训练模型解释自己的行为，就能降低实际任务中的不诚实表现。