Chinese contentTransformer Circuits 八月更新：可解释性评估与自解释复现
对于从事 AI 可解释性研究的开发者，这些更新提供了评估模型内部机制的新工具，值得关注并尝试应用到自己的工作中。
Latest
Every published item, in order · 79 items
May 13
Chinese contentCrosscoder 模型差异分析：用交叉编码器比较模型
对于从事 AI 可解释性、模型对齐或安全研究的团队，这篇笔记提供了一种直接比较模型内部表示的新工具，值得关注其后续发展。
Chinese contentCircuits Updates: 字典学习优化技术汇总
字典学习是理解大模型内部机制的关键工具，这些优化技术能显著提升分析效率。做 AI 可解释性研究的团队值得关注，可以直接参考这些方法改进自己的实验。
Chinese contentSparse Crosscoders：跨层特征与模型差异分析新方法
想理解大模型内部机制的研究者有了新工具——Sparse Crosscoders 能跨层甚至跨模型提取一致特征，做可解释性分析的建议点开看看。
Chinese contentAnthropic 研究：Claude 3.5 Haiku 内部机制如同生物系统
Anthropic 把模型内部机制当生物系统来研究，做 AI 可解释性的人会看到新方法论，关心模型安全性的团队值得关注。
Chinese contentCircuits Updates：2025年4月——越狱、密集特征与可解释性入门
Anthropic 的 Circuits 团队把越狱和密集特征的研究门槛降低了，做AI安全或模型可解释性的研究者可以直接参考他们的新发现和入门指南。
Chinese contentCircuit Tracing: 揭示语言模型计算图
做 AI 可解释性研究的团队终于有了一个能看清模型内部推理步骤的方法——Circuit Tracing 把黑箱计算拆成了可追踪的图结构，建议关注模型安全的研究者点开看看。
Chinese content机械论（不）忠实性的玩具模型：transcoder 出错时
做 AI 可解释性研究的人会直接受益——这篇论文揭示了 transcoder 可能产生虚假特征的根本原因，看完会对现有方法的可靠性有更清醒的认识。建议所有用稀疏自编码器做模型分析的人点开。
Tomorrow 08:00, the daily lands in your inboxTelegram channel or email. Same screening as this page, no ads.
Chinese content干扰权重的玩具模型：深入理解Transformer内部机制
Anthropic 把 Transformer 内部的信息干扰机制拆解清楚了，做模型可解释性和架构优化的研究者可以直接参考这个玩具模型来验证自己的假设。
Chinese contentTransformer Circuits 七月更新：可解释性框架与生物学应用
做 AI 可解释性研究或关注 AI 安全的团队，这篇更新展示了理论框架如何落地到生物学，值得一读。
Chinese contentWhen Models Manipulate Manifolds: 计数任务的几何结构
对理解大模型内部机制的研究者来说，这篇论文揭示了计数任务背后的几何结构，值得深入阅读。
Chinese contentTransformer Circuits 九月更新：功能与上下文学习
Transformer Circuits 的更新为理解模型内部机制提供了新工具，做可解释性研究或模型调试的开发者值得关注。
Chinese contentTransformer Circuits 十月更新：视觉特征与字典初始化
对于研究 Transformer 可解释性和稀疏自编码器的开发者，这些更新提供了实用的工具和方法改进，值得关注。
Chinese content自然语言自编码器：用文字解释Claude内部状态
这项研究让LLM自己说出它的思考过程，做AI安全或模型可解释性的研究者可以直接用这个工具来理解模型行为，比传统探针方法更直观。
Chinese contentHeadVis：交互式可视化工具助你理解语言模型注意力头行为
做模型可解释性研究或想深入理解 Transformer 内部机制的开发者，HeadVis 提供了一个直观的交互式分析工具，值得一试。
Chinese contentClaude Sonnet 4.5 中发现情感概念表征并影响输出
这项研究首次实证了 LLM 内部情感表征的因果作用，对理解 AI 安全与对齐、以及情感计算领域的开发者来说，是值得细读的突破性工作。
Chinese contentAnthropic 用 LLM 自动化对齐研究：可扩展监督新方案
Anthropic 用 LLM 自动化对齐研究，解决了可扩展监督的人力瓶颈，做 AI 安全和对齐的团队值得关注，可以直接参考其方法加速自己的研究。
Chinese contentAnthropic 发布 BioMysteryBench 评估 Claude 生物信息学研究能力
生物信息学研究者或计算生物学家可以借此了解 Claude 在真实科研问题上的表现，评估其作为辅助工具的实用性。
May 11
Chinese contentNVIDIA与SakanaAI合作：稀疏Transformer内核提速20%+
该工作展示了硬件厂商与AI研究机构在底层算子优化上的高效协作，直接提升了大模型训练/推理效率，对部署大规模Transformer模型的企业而言有显著成本降低潜力。
Papers22:16
Chinese contentAI模型缺乏创造性变化，新论文提出优化方案该研究直接指出了当前AI模型在创造性方面的核心痛点，并提供了可操作的优化方向，对AI开发者和研究者具有实际指导价值。
Papers22:16
Chinese contentSkill1: 强化学习统一进化技能增强智能体这项研究为技能增强型智能体的设计与训练提供了统一的强化学习框架，路径清晰且实证有效，对推动智能体从单任务到多任务泛化具有实际参考价值。
Papers22:16
Chinese contentMiA-Signature：全局激活近似提升长文本理解这项研究提供了一种轻量级思路，通过全局激活的近似来解决长文本中注意力稀疏的问题，对希望在不增加显著计算开销下提升长文本理解能力的团队有参考价值。
Chinese contentApple 提出 TIDE：每层都知 token 上下文
TIDE 是对 transformer 架构的改进，可能提高模型层间的信息流动效率，尤其在长序列或复杂上下文任务中，但尚需更多评估验证其实际收益。
Papers22:16
Chinese contentSkillOS：用于自进化智能体的技能编排方法该方法探索了智能体技能自动编排的机制，可能提升AI系统在复杂环境中的自主适应能力，值得关注其对自动化任务编排领域的影响。
Papers22:15
Chinese contentMACE-Dance: 音乐驱动舞蹈视频生成新框架该框架创新性地解耦了运动与外观，为舞蹈视频生成领域提供了新的技术路径，对音乐驱动的AIGC应用具有参考价值。
Chinese contentF. Chollet: 智能体编程本质是机器学习
本文提醒开发者，Agentic coding（智能体编程）的输出应作为黑盒模型进行经验评估，这对当前AI辅助编码的工程实践具有指导意义。