论文Agent 与开发者10:07Ra-NEM:以插入/删除曲线下面积为目标优化特征归因忠实性做模型解释的可以看看这篇:Ra-NEM 直接把忠实性指标变成损失函数来优化,比一般归因方法指标更好、推理也快,代码开源了。#XAI#可解释性#特征归因#Ra-NEMaarXiv cs.LG@Bjørn Leth Møller 等 3 人原文稍后读已读值得跟进有用关注 XAI
论文精选09:18XtrAIn:训练引导的遮挡归因方法,解决特征归因不稳定问题XtrAIn 解决了传统遮挡归因方法中基线选择和归因偏移的痛点,做可解释 AI 研究的开发者可以直接用,生成更干净的归因图,值得关注。#特征归因#可解释性#遮挡方法#训练引导aarXiv cs.LG@Thodoris Lymperopoulos 等 3 人原文稍后读已读值得跟进有用关注 特征归因
论文精选10:44形式化绑定问题:ViT模型如何知道特征属于同一物体?做视觉AI的开发者会关心:你的ViT模型真的理解“蓝色圆形”是一个整体吗?这篇论文给出了量化绑定信息的方法,值得点开看看如何诊断模型的结构性盲点。#绑定问题#Vision Transformer#信息论#视觉推理aarXiv cs.LG@Lianghuan Huang 等 6 人原文稍后读已读值得跟进有用关注 绑定问题
论文精选11:15RoSHAP:提升特征归因稳定性的鲁棒指标框架做模型可解释性研究的团队终于有了一个能对抗随机波动的归因指标——RoSHAP 通过分布建模让特征排序更稳定,做特征筛选和模型审计的开发者可以直接用。#特征归因#SHAP#鲁棒性#模型可解释性aarXiv cs.LG@Lanxin Xiang 等 6 人原文稍后读已读值得跟进有用关注 特征归因