Chinese content阶段式模型差异分析：通过字典微调进行模型对比的初步研究
做模型可解释性和安全研究的团队可以关注，这篇笔记提出了一种新的模型差异分析方法，能帮你更精准地定位模型行为变化的原因，值得一读。
Latest
Every published item, in order · 351 items
May 13
Chinese contentTransformer Circuits 八月更新：可解释性评估与自解释复现
对于从事 AI 可解释性研究的开发者，这些更新提供了评估模型内部机制的新工具，值得关注并尝试应用到自己的工作中。
Chinese contentCrosscoder 模型差异分析：用交叉编码器比较模型
对于从事 AI 可解释性、模型对齐或安全研究的团队，这篇笔记提供了一种直接比较模型内部表示的新工具，值得关注其后续发展。
Chinese contentDeepSeek 开源 DeepEP：首个面向 MoE 模型的专家并行通信库
MoE 模型的通信瓶颈是训练和推理的常见痛点，DeepEP 直接解决了这个问题。做大规模 MoE 训练或推理的团队，值得集成试试。
Chinese contentCircuits Updates: 字典学习优化技术汇总
字典学习是理解大模型内部机制的关键工具，这些优化技术能显著提升分析效率。做 AI 可解释性研究的团队值得关注，可以直接参考这些方法改进自己的实验。
Chinese contentSparse Crosscoders：跨层特征与模型差异分析新方法
想理解大模型内部机制的研究者有了新工具——Sparse Crosscoders 能跨层甚至跨模型提取一致特征，做可解释性分析的建议点开看看。
Chinese contentAnthropic 研究：Claude 3.5 Haiku 内部机制如同生物系统
Anthropic 把模型内部机制当生物系统来研究，做 AI 可解释性的人会看到新方法论，关心模型安全性的团队值得关注。
Chinese contentCircuits Updates：2025年4月——越狱、密集特征与可解释性入门
Anthropic 的 Circuits 团队把越狱和密集特征的研究门槛降低了，做AI安全或模型可解释性的研究者可以直接参考他们的新发现和入门指南。
Chinese contentDeepSeek 开源 FlashMLA，高效 MLA 解码内核
DeepSeek 开源 FlashMLA 解决了大模型推理中 MLA 解码的性能瓶颈，做推理优化和模型部署的开发者可以直接拿来用，值得一试。
Chinese contentCircuit Tracing: 揭示语言模型计算图
做 AI 可解释性研究的团队终于有了一个能看清模型内部推理步骤的方法——Circuit Tracing 把黑箱计算拆成了可追踪的图结构，建议关注模型安全的研究者点开看看。
Tomorrow 08:00, the daily lands in your inboxTelegram channel or email. Same screening as this page, no ads.
Chinese contentMiniMax Music 2.6 发布：AI 音乐生成再升级
AI 音乐生成的质量和可控性再次提升，做音乐创作、视频配乐或内容制作的团队可以直接体验更自然的旋律和编曲，建议试试新版本。
Chinese content机械论（不）忠实性的玩具模型：transcoder 出错时
做 AI 可解释性研究的人会直接受益——这篇论文揭示了 transcoder 可能产生虚假特征的根本原因，看完会对现有方法的可靠性有更清醒的认识。建议所有用稀疏自编码器做模型分析的人点开。
Chinese content干扰权重的玩具模型：深入理解Transformer内部机制
Anthropic 把 Transformer 内部的信息干扰机制拆解清楚了，做模型可解释性和架构优化的研究者可以直接参考这个玩具模型来验证自己的假设。
Chinese contentTransformer Circuits 七月更新：可解释性框架与生物学应用
做 AI 可解释性研究或关注 AI 安全的团队，这篇更新展示了理论框架如何落地到生物学，值得一读。
Chinese contentWhen Models Manipulate Manifolds: 计数任务的几何结构
对理解大模型内部机制的研究者来说，这篇论文揭示了计数任务背后的几何结构，值得深入阅读。
Chinese contentTransformer Circuits 九月更新：功能与上下文学习
Transformer Circuits 的更新为理解模型内部机制提供了新工具，做可解释性研究或模型调试的开发者值得关注。
Chinese contentTransformer Circuits 十月更新：视觉特征与字典初始化
对于研究 Transformer 可解释性和稀疏自编码器的开发者，这些更新提供了实用的工具和方法改进，值得关注。
Chinese contentDeepSeek 开源 DeepGEMM：高性能矩阵乘法库
DeepGEMM 解决了 FP8 矩阵乘法的性能瓶颈，做大规模模型训练或推理的团队可以直接集成，获得接近理论峰值的算力利用率，值得一试。
Chinese contentDeepSeek 发布 awesome-deepseek-agent 智能体资源库
DeepSeek 官方整理的智能体开发资源库，做 AI 智能体的开发者可以直接拿来参考，省去自己摸索的时间。
Chinese contentGoogle Research 博客：会议与活动标签页
想第一时间知道 Google 在顶会上发了什么论文、做了什么演讲？这个标签页就是你的雷达，做 AI 研究的建议收藏。
Chinese contentAnthropic与NEC合作打造日本最大AI工程团队
这是Anthropic首次大规模进入日本市场，做企业AI部署或关注亚洲AI生态的团队值得关注——NEC的工程规模意味着Claude将在日本关键行业落地，可能影响后续合作模式。
Chinese content自然语言自编码器：用文字解释Claude内部状态
这项研究让LLM自己说出它的思考过程，做AI安全或模型可解释性的研究者可以直接用这个工具来理解模型行为，比传统探针方法更直观。
Chinese contentAnthropic 任命 Theo Hourmouzis 为澳新总经理，悉尼办公室正式启用
Anthropic 正式落地澳新，意味着亚太开发者将获得更本地化的支持与服务，做企业级 AI 部署的团队值得关注后续动态。
Chinese contentAnthropic 联合黑石、H&F、高盛成立企业 AI 服务公司
Anthropic 联合顶级资本成立企业服务公司，意味着企业级 AI 部署将获得更专业的定制化支持——做企业 AI 落地的团队值得关注，这可能会改变企业采购 AI 服务的方式。
Chinese contentHeadVis：交互式可视化工具助你理解语言模型注意力头行为
做模型可解释性研究或想深入理解 Transformer 内部机制的开发者，HeadVis 提供了一个直观的交互式分析工具，值得一试。
Chinese contentAnthropic与Amazon扩大合作，新增5吉瓦计算能力
算力是AI模型竞争的核心瓶颈，Anthropic与AWS的深度绑定意味着其下一代模型将获得远超对手的资源支持，关注AI基础设施和模型竞争的读者值得了解这一战略布局。
Chinese contentClaude Sonnet 4.5 中发现情感概念表征并影响输出
这项研究首次实证了 LLM 内部情感表征的因果作用，对理解 AI 安全与对齐、以及情感计算领域的开发者来说，是值得细读的突破性工作。
Chinese contentAnthropic 发布 Claude for Creative Work，赋能创意工作者
创意工作者终于有了专属的 AI 工具——Claude 直接切入写作、设计、视频等创作全流程，做内容的人可以试试用它来加速灵感落地和重复劳动。
Chinese contentAnthropic 更新负责任扩展政策，强化 AI 安全治理
Anthropic 的 RSP 更新为 AI 安全治理提供了可操作的框架，做 AI 治理、合规或模型部署的团队值得关注，可以直接参考其评估和报告机制。
Chinese contentAnthropic 宣布 Claude 更高使用限制与 SpaceX 计算合作
AI 算力瓶颈有了太空解法——做大规模模型训练和推理的团队值得关注，这可能是未来成本优化的关键方向。
Chinese contentAnthropic 发布金融智能体，自动化财务分析
金融团队终于有了正经的 AI 用例——Anthropic 的智能体自动处理财务分析和合规检查，比手工操作高效太多，做金融数据处理的建议点开。
Chinese contentAnthropic 宣布 Claude 永久无广告，解释为何广告与 AI 助手不兼容
Anthropic 用一纸公告划清了 AI 助手的底线——不靠广告赚钱，这对所有担心 AI 被商业利益绑架的用户来说是个好消息，做产品决策的团队值得思考这个立场。
Chinese contentAnthropic 发布 Claude Opus 4.7：更强编程与智能体能力
做复杂编程和智能体开发的团队终于有了更靠谱的选择——Opus 4.7 在多步骤任务上的一致性提升明显，建议直接上手测试。