#可解释性

ConceptTS利用大型语言模型实现可解释的多变量时间序列预测，提供更直观的预测解释，适合需要理解预测因素的场景。与黑盒基线相比，准确性相当，值得一试。

BERT-LER模型在临床预测任务中表现出色，结合了实验室值表示和可解释性，适用于多个治疗领域和预测任务，值得一看。

这篇论文用因果干预实验拆解了LLM拒绝机制，发现答案释放和拒绝恢复不对称，对AI安全审计很有参考价值。

这篇论文用受控实验证明，模型输出能藏住内部状态的证据，128对测试全过，对理解AI可解释性挺有意思。

这篇论文揭示了AI模型能被微小文本线索操控，对安全和可解释性影响大，值得关注。

ALE以前只支持L2空间，这篇把它扩展到球面、高斯这些新结构，还在图像分类上实测了。

这篇论文搞了个CHIVE自动找模型意外行为，结果发现现有可解释性技术对预测反事实行为没啥用，但用来训练数据倒挺能泛化，值得做可解释性的人看看。

做表格分类想用深度学习？TabSOM把表格变成图像，打平十二种老方法还更稳，连特征关系都能可视化，值得试。

想系统搞懂CAM方法演进，这篇57篇论文的综述把梯度法、Transformer归因、CLIP/DINO/SAM时代的新做法都梳理清楚了，还指出了各方法留下的坑。

想搞懂SAE特征到底抽没抽到抽象概念？这篇提出FNL指标，不用LLM打分就能测抽象度，还能帮你挑干预特征，实测提分4.6。

这篇论文用SAE潜变量集做相似度度量，发现它并不比稠密嵌入更贴近人类概念判断，搞可解释性的人值得看看这个反直觉结论。

想快速了解NLP信任研究六年的演变脉络，看这篇综述就够了，它把144篇论文的规律都总结好了。

想搞懂多模态模型内部怎么运作？MMDiff能找出是哪些特征让模型变聪明，还能精准控制它们，安全性和效果都有数据支撑。

田渊栋聊为什么大模型还不是科学，他创业搞RSI用AI自我进化，还拿Claude研究agent和人类做了对比。

Yangyi@Yangyixxxx原文

XAI评估怎么做才靠谱？这篇论文用DetoxAI和概念漂移案例讲清了不足和应对思路，适合搞模型解释的人读。

这篇论文提出了GENESIS，让因果发现的每条边都能说清是统计证据还是领域知识，还保证100%可追溯，比纯统计方法更准。

这篇论文把Transformer说成“用概念变换概念”，提出动态权重来自输入的新解释，还猜测人脑可能也这么处理语言。

这篇论文在Qwen3-32B上找到了时间偏好的内部方向，用对比激活加和就能双向改变模型选短期还是长期，还能顺带提升规划能力，挺有意思。

这篇论文把权重空间消融的分析从单层推到了多层，还在Qwen2.5上验证了闭式注意力界，顺手找出了一个涌现电路，挺有意思。

这篇论文提出了CENDRe，给时间序列CNN做概念提取，能自动找概念数量，还能同时定位时域和频域，比只看时域的方法更靠谱。

这篇论文给可解释性打分提出了一个新指标EPC，不挑模型，而且拿人类判断验证过，做XAI研究的可以看。

新研究发现大模型脑子里有张星空图，还能解码出来，挺有意思的。

想搞懂马尔可夫决策过程控制器可解释性的可以看看这个。dtControl2+ε用ε容忍度换更小更易懂的决策树，比原先的压缩效果好很多。

这篇论文展示了KAN不只是理论上可解释，还能落地到医学影像中，让解释更可靠，比标准ResNet/ViT定位准确率提升10%。

研究者用决策树“拆解”了黑箱TD3，在倒立摆任务上性能不减，还解析了控制规律，适合安全关键AI参考。

这篇论文用FEGA方法分析了稀疏自编码器特征的下游几何，发现大多数特征不是单方向，value-like和pointer-like特征效果不同，对理解模型可解释性很有启发。

这篇论文用了一种叫bag-of-waves的巧办法，只需少量数据就能从脑电信号里学到可解释的波形模板，比那些黑箱深度模型好懂，还省钱省算力。

这篇论文告诉你，艺术家也能像玩材料一样玩扩散模型内部。他们在ComfyUI做了交互工具，能直接操纵Stable Diffusion的层，看到具体变化。不是理论说教，是真能动手调的。

时间序列分类的黑盒解释往往只找够用的特征，但可能抓到噪音。这篇论文提出了TimePNS，用反事实推理揪出真正必要的子序列，实验效果比现有方法好。

这篇论文提出的FGDSE框架能提前30天预测充电桩故障，特别指出极端热是关键风险，帮你搞清楚该什么时候维护。

这篇论文揭露了AI解释性评估的漏洞，并给出了RECAP方法，让你知道如何让模型内部信息真正可验证，而非被花言巧语欺骗。

这篇论文提出了Persistent SAE，让稀疏自编码器学出特征该持久多久，在解释和监控语言模型上更灵活，尤其长文本场景下效果明显。

这篇论文提出了PMC方法，能直接看穿BFT模型内部认为的贝叶斯先验是什么，比传统对比法更靠谱。做可解释性研究的朋友可以试试。

这篇论文给出了AI系统生命周期可信度评估的具体方法，用决策树生成可读的规则和阈值，适合做治理合规的工程师看看。

想了解怎么让GUI智能体更可控？这篇论文讲了Plover系统，能把内部计划展示出来让你改，实验证明能修好很多翻车案例，比黑箱靠谱多了。