精选理由
Anthropic这次直接打开了Claude的思维黑箱，能用J-space看它在想什么，还能干预调整，对AI安全来说是个新思路。
Anthropic在论文中引入J-space，一种能够读取、审计和塑造Claude内部思考过程的方法。该方法可提高模型的可信度和透明度，尤其适用于能力不断增强的AI系统。研究还发现了语言模型与人类思维之间令人惊讶的相似性。论文全文发布于transformer-circuits.pub/2026/workspace。
AI 翻译 · 中文
Anthropic在论文中引入J-space，一种能够读取、审计和塑造Claude内部思考过程的方法。该方法可提高模型的可信度和透明度，尤其适用于能力不断增强的AI系统。研究还发现了语言模型与人类思维之间令人惊讶的相似性。论文全文发布于transformer-circuits.pub/2026/workspace。
The J-space lets us read, audit, and shape what Claude is actively thinking about—useful tools for keeping models trustworthy as they grow more capable. And it suggests surprising parallels between language models and ou…