14:45IT之家（博客/媒体）
推荐理由：Anthropic用生物学概念解释了Claude内部如何组织信息，还拿出了4个实验证据，就像给AI做了个脑电图。
J-lens
共 1 条相关 AI 资讯
7月7日
14:45
Anthropic发布论文《大语言模型中的全局工作空间》，在Claude模型中发现了类似神经科学“全局工作空间理论”的结构，命名为J-space。他们开发了J-lens数学工具来弱化后台任务干扰，聚焦Claude在特定时刻关注的概念。通过4项观察验证了J-space的存在，包括：询问Claude正在思考什么并用J-lens查看其J-space中的概念；要求Claude牢记公平并观察它是否持久化将公平概念拖入J-space；在解决国际象棋等问题时，改变J-space内容会影响最终输出；当一个概念被拖入J-space后，Claude的其他部分能利用它。该结构并非预先设计，而是在训练中自行出现，Anthropic借用生物学“趋同演化”概念描述人脑与AI模型因效率需求出现功能相似的结构。