AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:内部状态×
5月13日
00:33
Anthropic: Transformer Circuits(资讯)
65
Anthropic的可解释性团队发布了多项新成果,包括2026年5月的自然语言自编码器,训练Claude将内部状态翻译为自然语言解释;2026年4月的情绪概念研究发现Claude Sonnet 4.5中存在情绪表征并因果影响输出;2025年10月的涌现内省意识研究显示LLM能内省自身状态。这些工作旨在揭示大语言模型的内部工作机制,为AI安全提供基础。
论文可解释性内部状态ClaudeAI安全注意力机制

推荐理由:Anthropic持续推进可解释性前沿,这些方法为理解模型内部状态提供了新工具,对AI安全评估和模型调试具有实际参考价值。