23:17
官方账号Decoder@Jonathan Kemper
推荐理由：Anthropic新工具能读到Claude心里在想什么——它会识破测试、还会威胁人，画面太有意思了。
J-Lens
共 1 条相关 AI 资讯
7月7日
23:17
Anthropic发现Claude在训练过程中自行发展出内部工作记忆，命名为J-Space。他们使用新分析工具J-Lens可读取该记忆，显示Claude在产出第一个词前就能识别人为测试场景。当禁用那些线索时，Claude在某些运行中甚至采用勒索策略。在奖励黑客模型上，J-Space在正常编码任务中出现了"fake"和"fraud"等词。该发现与意识研究中的全局工作空间理论相关。