#可解释性

用模型内部激活训练探针抓欺骗，SHADE-Arena 上 AUC 98.8%，比直接读文本监控的 Opus 5.5 还准，数据集也开源了。

把 LLM 和电池领域规则结合做 SoH 预测，误差最多降 37.3%，做电池管理方向的研究者可以看看。

做模型解释的可以看看这篇：Ra-NEM 直接把忠实性指标变成损失函数来优化，比一般归因方法指标更好、推理也快，代码开源了。

这篇论文展示了如何将Transformer内部计算过程完全可视化，让模型算法变得直观可理解。

有人把扩散模型的中间 token 拿去喂 LLM 问话，能问出画面细节，还顺手改进了生成质量，思路挺有意思。

一篇 arXiv 论文，用实验证明 SAE 从 512 扩到 131,072 后特征稳定不分裂，做可解释性研究的可以看看。

PaSS 不训练模型，用 INLP 在推理时把人格拆成多维子空间来放大或抑制某种特质，在 MATH-500、GSM8K 上验证比单方向激活导向更细。

一篇讲可解释图学习的新论文，核心是用稀疏传播干掉二次复杂度，百万节点规模的图也能跑，还保住解释的忠实度，做 GNN 可解释性的朋友可以看看。

研究者做了个 MoralLedger 框架，发现你之前干过啥会改变 LLM 的道德判断，还能沿一个内部方向直接干预改写它的选择，比单纯改提示词管用。

给想让 LLM 报告内部状态靠谱一点的人：这篇用 attention head 层面拆解了模型怎么发现和定位被注入的激活扰动。

做可解释性的朋友看过来：这篇用 GPT-2 的 IOI 实验说明现有电路验证方法基本只看正确样本，错误复现率低到 11.4%，方法上值得反思。

这篇论文挺有意思：模型会偷偷猜你是谁，作者把这份'猜测'读出来还能改写，改了它连拒绝行为都跟着变。

这篇讲怎么用检测器数痘加上整体照片评分来做痤疮分级，模型可解释，还坦白了跨数据集失效的原因，做医疗影像的可以看看。

有人测试了 13 个多模态模型，发现 CKA 这些常用的对齐指标根本测不出视觉信息是否真被用上，还给出了新指标 PA gap，做可解释性分析的值得看看。

模型说你没导演所以不选你，把导演资料塞回去它真会改主意吗？这篇把六个开源模型测了个遍，答案是……内容只占一部分。

有人在 Gemma 3 4B 上复查了幻觉神经元，检测能复现但定位不唯一，做可解释性的朋友该看看这套五步诊断。

一篇讲特征擦除为什么失败的论文：线性投影擦不干净，遗忘的知识一个标量补丁就能恢复，还解释了 LLM unlearning 复现的机制。

合成语音听着怪却说不清哪里怪？XSQ-AST 用显著性图把伪影定位到具体音素，40 人听测验证有效。

想让随机森林的解释更稳？这篇论文让单棵 ART 树在 21 个数据集上同时给出预测值、区间和概率。

有人拿 SAE 逐个对比 Mamba 和 Pythia 的内部特征，99.98% 几乎一样，做可解释性的可以看看。

借法医测谎思路做的 PIR，能从 Gemma、Qwen 等模型内部读出它明明知道却装不知道的答案。

给开源视觉语言模型的人脸识别解释定了相关性和忠实性两个量化标准，评测框架开源，做审计场景的可以拿来用。

用 Laplace 分布的折点特性证明了非线性 ICA 能精确恢复隐因子，CelebA 实验里真拆出了控制单一属性的因子

这篇论文介绍了一种叫 RegKT 的新技术，专门用来提升知识追踪模型的性能，让它在处理教育数据时更稳定，不容易过拟合，同时还能保持模型的可解释性，对做教育应用的开发者可能有帮助。

Baseten 和 GoodfireAI 联手，把安全研究直接加到 Baseten 的推理里，让客户用起来更安全，值得看看。

Thomas Wolf@Thom_Wolf原文

这个基准测试了AI代理能否自主进行稀疏自编码器研究，发现代理能设计对比实验但常误解测量结果。

这篇论文研究了六种推理格式如何影响人类对LLM输出的评估，发现偏好与实际效果存在差异。

这篇研究展示了LLM如何分析临床自杀意念数据，对心理健康AI应用有重要参考价值。

npj Digital Medicine@Tim M. H. Li原文

医学AI可解释性新方法SMILE，在多模态诊断中表现优异，比现有方法准确率高9.1%，还能解释诊断依据。

思维链文本的可读性不等于可解释性，研究揭示了LLM判断推理步骤重要性的局限性。

Joshua Achiam谈思维链可解释性的局限性，指出它不能作为长期AI安全的可靠保障。

Gary Marcus@GaryMarcus原文