#可解释性

想测试数学推理模型是真会思考还是靠蒙？这个挑战赛提供了新基准和资源，帮你判断模型的鲁棒性。

用XGBoost搞物理参数拟合，还能用SHAP解释结果，做物理AI的值得看。

想知道工业界怎么搞AI可解释性需求？Daimler Truck的8位工程师实战经验，告诉你现有方法哪里不好使。

这篇论文给了你可解释AI的新思路：用偏依赖约束让模型学得更准，还能确保解释符合常识，尤其适合回归问题。

这篇论文提的S^2AE让视觉语言模型里稀疏编码的概念更一致，比普通SAE语义对齐涨了6%，还能保持高重建质量。搞多模态可解释性的可以看看。

用手机拍张纸质心电图，ECGLight直接在本地CPU跑30秒就能筛查心梗，准确率95%以上，偏远地区也能用。

这篇论文用Transformer代理模型给医疗AI做局部解释，还能直接对齐临床知识，让黑箱诊断更可信。

这篇论文教你怎么用可解释性找自动驾驶模型的bug，还能动手修好它，比单纯黑盒调参靠谱多了。

Anthropic 用新可解释性技术找到了 Claude 内部的 J-space，类似大脑的全局工作空间，搞明白了模型怎么处理想法。适合关心 AI 可解释性的人看。

AI Will@FinanceYF511 个信源在谈原文

Anthropic发现了Claude的内心世界，有个叫J-space的小区域能控制推理和总结，还能被直接读取想法，太酷了！

小互@imxiaohu11 个信源在谈原文

这篇论文提出了一个能同时处理基因、蛋白质和miRNA数据的可解释深度学习框架，在乳腺癌生存预测上效果不错，适合关注多组学分析和可解释AI的读者。

Anthropic在Claude里找到了类似人脑全局工作空间的J-space，用新方法看穿了模型内部怎么思考，挺有意思的。

官方账号Anthropic@AnthropicAI11 个信源在谈原文

Anthropic发现Claude有个隐藏的“思考空间”J-space，模型能在里面默默推理，不写出来。删掉它复杂推理就变差，还能看到模型私下的想法，挺有意思。

berryxia@berryxia11 个信源在谈原文

Anthropic找到了Claude思考时的内部工作区J-Space，能看能改，比以往猜输出靠谱多了。

elvis@omarsar011 个信源在谈原文

想低成本搞懂LLM拒绝行为？这篇论文用RFM-AGOP几秒就定位到多维子空间，比传统方法快还准。

医学图像分割新论文，RadiomicNet用放射组学特征让模型更可解释，参数少但性能超过U-KAN，值得看看。

这篇论文用大量对比实验告诉你：训练方法不同，模型可解释性天差地别。想用模型有机体做可解释性研究的话，得先看看训练方式合不合适。

这篇论文提出了一个实用工具，帮你检查时间序列模型到底学到了什么，而不仅是预测准确度。

这篇论文发现了SAE解释模型时的两个大坑——特征分裂和吸收，然后用C^2R正则化给治好了，代码开源，直接上手试试。

这篇论文点出一个关键漏洞：模型准、解释对，不等于模型真懂现象。做AI科学发现的人必看。

COCOLogic-V2 这个新数据集专测视觉推理，正反例分类特别细，模型在近边界上直接翻车，做可解释 AI 的可以看看。

BINEVAL把LLM评估拆成一堆“是/否”问题，结果好理解、易调试，在事实一致性上比UniEval还准，还能自己优化提示词。

这篇论文给Top-k稀疏自编码器加了两种正则化方法，能让模型更可解释而且重构质量不降，值得做可解释性的人看看。

微软研究搞了个新招，把黑盒模型怎么处理语言变成可以验证的假设，还真的用脑扫描去测，看哪些脑区在干活，挺有意思。

官方账号Microsoft Research@MSFTResearch原文

这篇论文用树结构搞定模型对少数子组表现差的问题，还能看清子组结构，挺实在的。

Google 团队这篇论文解释 DiffusionGemma 的推理黑箱有多大，发现能用 token 瓶颈把深度压到几乎和 Gemma 4 一样，还发现了扩散模型特有的奇怪推理方式。

这篇论文用Python程序解释了注意力头怎么工作，还能直接用程序替换掉原始头，精度很高，想看模型内部机制的可以读。

这篇论文用XAI方法拆解了欧洲39个地区的电价驱动力，告诉你太阳能比想象中更重要、天然气还是老大，还模拟了全欧统一电价会怎样。

想搞懂Agent决策是怎么归因的？Agent Arena这篇博客把因果追踪的方法讲得很清楚，适合做智能体评估的研究者。

lmarena.ai@lmarena_ai原文

Benchling的AI负责人用生物视角解释LLM的奇怪行为，比技术文档好懂，推荐看看他的原话。

官方账号LangChain@LangChainAI原文

想试KAN但被碎片化实现劝退？KANLib把PyKAN、EfficientKAN、FastKAN统一成一个高效框架，直接上手跑基准。

这篇论文教你如何用转码器给FLUX.1模型做电路追踪，比稀疏自编码器更准确，能解释图像生成中的属性绑定错误。