10:25官方一手歸藏(guizang.ai)@op7418精选73°Anthropic利用新的可解释性技术,在Claude模型中发现了J-space,该空间与神经科学中的全局工作空间理论相似。该理论认为,想法进入特权工作空间后才会被意识访问。研究团队通过分析方法找到Claude内部对应机制,提升了模型可解释性。相关工作发表在Anthropic官网研究页面。论文ClaudeAnthropic可解释性全局工作空间J-space10 个信源在谈推荐理由:Anthropic用了新方法看Claude怎么处理信息,找到个叫J-space的结构,类似人脑的全局工作空间,挺有意思的。原文
04:54官方一手Anthropic: Research(资讯)精选72°Anthropic在2026年7月发表的可解释性研究中,发现Claude模型存在一个涌现的全局工作空间(global workspace)。该空间能保存模型内部的思考过程,但这些内部表示并不会出现在模型的最终输出中。研究利用探针和激活干预技术,定位了Claude中对应全局工作空间的神经元群体。这项工作为理解语言模型的内部推理机制提供了新视角。论文ClaudeAnthropic可解释性全局工作空间内部思考10 个信源在谈推荐理由:Anthropic发现了Claude藏着的一个“内心独白”空间,内部思考不写到输出里,搞AI可解释性的人必看。原文
03:26官方一手Anthropic: Transformer Circuits(资讯)精选研究者发现Claude模型内部存在一组可言语化的特权表征,这些表征形成全局工作空间。这些表征仅占模型内部状态的一小部分,但可用于报告、控制和推理。相比之下,模型的大部分处理是自动且不可言语化的。该研究揭示了语言模型内部计算的可解释性结构。论文Claude全局工作空间可解释性语言模型推荐理由:这篇文章发现了Claude模型内部有个‘大脑指挥部’——一小部分它能说出来的表征,其他都是自动在干。挺有意思的视角。原文