AITOP

可解释AI

共 38 条相关 AI 资讯
8月20日
10:18
10:18官方账号arXiv cs.AI@Anran Wang, Wen Shi, Yong Luo, Jianbin Huang, Lijuan Chen, Junhu Zhao, Weixin Jin, Huihui Yuan
采用的可解释式AI模型将大气环流预测转化为降水估计，预测2026年夏季中国中部会出现干旱异常。预测从3月到5月初始化后，一致表明该地区2026年夏季存在干旱情况。回顾性评估显示该模型的预测能力更强，且这类年份常伴随中太平洋升温现象。
论文可解释AI推理模型气候预测
推荐理由：这是科研团队用可解释AI做气候预测研究，用模型分析大气环流与降水联系，预测干旱效果比常规方法更好。
原文
8月19日
11:44
8月12日
16:25
16:25官方账号arXiv cs.AI@Ali Saleh, Abdul Karim Gizzini, Mohamad Ghassany, Ali J. Ghandour
该论文提出一种以熵为中心的可解释AI（XAI）方法，用于遥感图像的语义分割。作者还设计了一种新的XAI评估方法，以高效衡量所提方法高亮区域的相关性。实验结果表明，该方法在性能上优于近期为语义分割适配的XAI方法。研究旨在提升黑盒模型在遥感等关键领域的透明度和信任度。
论文可解释AI遥感图像分割熵
推荐理由：这篇论文给遥感图像分割的可解释性带来了新思路，用熵做核心，还配了新的评估方法，比现有方法效果更好。
原文
7月28日
12:12
12:12官方账号arXiv cs.AI@Zhenhan Gao, Marvin Muñoz Barón, Umm-e Habiba, Daniel Graziotin, Stefan Wagner
一篇针对34名程序员的用户研究发现，在AI代码审查中提供详细解释（条件A）获得最高信任评分（3.99/5），但仅提供审查反馈（条件B）反而获得最高同意率（89.22%），说明更多解释会促使开发者更频繁地质疑AI建议。无解释（条件C）的信任和同意率均最低。解释程度并未显著影响审查耗时。该研究为设计可信的AI代码审查系统提供了实证依据。
论文LLMsCode ReviewXAI
推荐理由：这篇论文告诉你：给AI代码审查加解释，反而可能让人更不听话。详细解释信任高但同意率低，这结论挺反直觉的。
原文
7月27日
12:21
12:21官方账号arXiv cs.AI@Anduel Mehmeti, Gabriella Gigante, Salvatore Venticinque
该论文探索可解释强化学习（RL）在空管（ATC）中的应用。研究人员在简化ATC环境中训练RL智能体，使其决策替代航线以规避禁飞区。他们采用显著图分析输入特征对智能体决策的影响，揭示关键因素。
论文强化学习空管可解释AI
推荐理由：想理解AI在空管这种高风险场景怎么解释自己？这篇论文用显著图告诉你智能体为什么选择某条航线，很实在。
原文
7月25日
00:01
00:01官方一手AWS Machine Learning Blog@Ayush Singh Chauhan
精选
AWS博客介绍了如何利用Amazon SageMaker AI和PyTorch构建一个可解释的银行下个最佳产品推荐系统。该系统采用多塔神经网络与注意力机制，实现高准确率的个性化推荐。关键设计包括可解释性模块，满足银行监管对推荐原因透明化的要求。文章提供了完整的架构设计和决策说明。
技巧Amazon SageMaker AIPyTorch推荐系统
推荐理由：AWS官方手把手教你怎么用SageMaker和PyTorch搭推荐系统，还能解释为什么推荐这个产品，银行做合规推荐正需要这个。
原文
7月24日
09:44
09:44官方账号arXiv cs.AI@Nooshin Maghsoodi, Amoon Jamzad, Robert Policelli, Mohammad Farahmand, Dilakshan Srikanthan, Martin Kaufmann, Kevin Y. M. Ren, Shaila Merchant, Sonal Varma, Ross Walker, Doug McKay, John Rudan, Gabor Fichtinger, Parvin Mousavi
本研究提出Agent-Guided Concept Discovery框架，用于从REIMS质谱数据中学习可解释概念以辅助手术切缘评估。该框架无需预定义概念标签，通过推理代理优化语义描述并利用生化知识图谱确保一致性。在皮肤癌和乳腺癌数据集上，该方法相较于基线提高了平衡准确率和灵敏度。在术中案例中，假阳性更少，表明更好的泛化能力。
论文REIMS概念发现手术切缘评估
推荐理由：这篇论文用智能体自动发现概念，让REIMS数据的手术切缘评估更可解释、更准确，真实术中场景也表现更好。
原文
7月23日
12:01
12:01官方账号arXiv cs.LG@Cayan Deniz Kucuktopana, Javier Fumanal-Idocin, Richard Pitts, Javier Andreu-Perez
该论文为Ex-Fuzzy库实现了Mamdani风格的可解释模糊回归扩展，利用模糊C均值聚类提出目标感知的变量初始化策略。在KEEL仓库的10个回归数据集上，高斯隶属度函数相比均匀梯形函数表现更优，平均决定系数约0.86，生成的规则库仅10-15条人类可读规则。该方法为黑箱回归模型提供了透明且性能竞争的替代方案。
论文Ex-Fuzzy模糊回归可解释AI
推荐理由：想要可解释的回归模型？这篇论文展示了Ex-Fuzzy库的新能力：用10-15条规则就能达到0.86的R²，比黑箱模型还直观。
原文
11:56
11:56官方账号arXiv cs.LG@Yankai Zheng, Yuhe Liu, Yuxin Ma, Tianci Xue, Jiayuan Tian, Yu Fu, Yuxuan Hu, Jianing Wang, Zichun Xiao, Junya Mu, Shaohui Ma
PhaseAware 是一种结合时间骨干网络与阶段-身体组描述符的紧凑框架，用于连续康复质量评估。在 UI-PRMD 深蹲协议上，PhaseAware 的 RMSE 降至 0.0230，相比基线降低了 88.9%。在 KIMORE 深蹲子集上同样表现良好，表明阶段感知设计在相关协议间具有迁移性。除了评分预测，PhaseAware 还能基于阶段和身体层面的灵敏度生成结构化审查线索，突出对预测最重要的运动阶段和身体区域。该架构采用骨干条件门控残差机制稳定特征表示，支持在资源受限场景下运行。
AI模型PhaseAwareUI-PRMDKIMORE
推荐理由：想用 AI 辅助康复评分又怕黑盒？PhaseAware 精度高（RMSE 降 88.9%），还能给出运动阶段和身体部位的敏感线索，方便医生审查边界案例。
原文
7月21日
09:50
09:50官方账号arXiv cs.LG@Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen
论文在整数算术任务上发现，vanilla Transformer模型可通过人类有效学习方法提升性能。通过将算术任务分解为子任务并做损失收敛顺序分析，揭示LLM学习模式与人类相似，简单子任务学习更快。应用人类问题解决策略和认知赋能方法后，准确率显著提高。研究通过准确率提升实验、可视化验证和解释性分析展示了方法有效性。工作探索了Transformer LLM与人类学习者的潜在相似性，并用可解释AI验证增强信任。
论文TransformerLLM算术任务
推荐理由：这篇论文发现Transformer学算术的方式跟人很像，用教人算术的策略来调模型，效果还真不错，想了解LLM推理机制和可解释性的话值得一看。
原文
7月17日
10:58
10:58官方账号arXiv cs.AI@Hoang-Loc Cao, Van Pham, Truong Thanh Hung Nguyen, Phuc Truong Loc Nguyen, Phuc Ho, Veronica Whitford, Hung Cao
该论文提出一个自进化、专家参与的MDD症状标注框架，结合LLM辅助标注与专家验证，旨在构建与DSM-5-TR对齐的可解释数据集。框架分为三个阶段：候选证据选择、DSM-5-TR准则分析、病例级综合诊断与严重性标注。采用双记忆架构（示例记忆和反思记忆）内化专家反馈，无需重训即可迭代改进。初步研究表明，该方法在专家评审样本上提升了标注一致性和可解释性，并减少了人工修订量。
论文DSM-5-TR抑郁症可解释AI
推荐理由：这篇论文提出一种结合LLM和专家验证的抑郁症标注框架，能自动生成符合DSM-5-TR标准的推理轨迹，减少人工修订。适合研究可解释AI和心理健康数据标注的人。
原文
09:29
09:29官方账号arXiv cs.LG@Javad Khoramdel, Farhad Hoseyni, Amirhossein Nikoofard
该论文提出一个基于冻结DINOv2-Small的参数高效框架，仅使用1.19M可训练参数（通过三个模态特定提示令牌），在共享跨注意力层中实现空间可解释性。引入MoCA自适应焦点损失，将连续认知评分整合到训练目标中，严格泛化标准软标签方法。在分层五折交叉验证中，MCI类F1达0.641，AUC达0.795，比计算量更大的ResViT基线提高0.110的F1。该方法克服了数据稀缺、类别不平衡和临床边界诊断模糊等限制。
论文DINOv2-SmallMCI筛查提示调优
推荐理由：用DINOv2-Small做MCI筛查，只训1.19M参数就比ResViT好，还自带可解释性，做医学影像分析的可以看看。
原文
7月13日
10:48
10:48官方账号arXiv cs.AI@Mohadeseh Mollapour, Koorosh Aslansefat, Zeinab Dehghani, Bhupesh Kumar Mishra, Tejal Shah, Zhibao Mian
ConceptSMILE是一个模型无关的扰动审计框架，用于评估概念级可解释AI的可靠性。它扩展SMILE的特征级归因逻辑，通过扰动输入区域、测量概念响应变化、应用局部加权并拟合XGBoost代理来近似局部概念行为。在视网膜眼底图像上，MedSAM视觉概念在空间归因和代理保真度上表现最佳（R²=0.8503，R_w²=0.8465），而VLM语义概念在血管任务忠实性和特定伪影条件下稳定性更强。该框架为概念级XAI提供了独立的信任度审计层。
论文ConceptSMILEMedSAMVLM
推荐理由：想验证AI解释的可信度？ConceptSMILE能审计概念级解释的可靠性，MedSAM和VLM在不同维度各有优劣，论文给出了量化证据。
原文
10:29
09:26
7月8日
10:16
10:16官方账号arXiv cs.AI@Marcelo Arenas, Pablo Barceló, Diego Bustamante, Jose Caraball, María Alejandra Schild, Bernardo Subercaseaux
论文提出ExplAIner查询语言，可统一表达溯因、对比、特征和距离等多种解释查询。它基于FOIL语言扩展，解决了FOIL无法表达最优性解释查询且决策树评估复杂的问题。ExplAIner的查询评估属于布尔层次结构，对确定性可分解布尔电路可在多项式时间内完成。引入优化片段Opt-FOIL，可通过固定次数SAT求解器调用计算最小解释。
论文ExplAInerFOIL可解释AI
推荐理由：这篇论文提出了一种新查询语言ExplAIner，能统一处理各种模型解释查询，还证明计算效率高，对做形式化XAI的人很有用。
原文
7月3日
10:30
09:18
09:18官方账号arXiv cs.LG@Sampreeti Bhattacharya, Arkaprava Roy
该工作提出一个加性深度学习框架，用多层感知机（MLP）编码物理化学描述符作为化学分支，用图神经网络（GNN）编码分子图拓扑作为结构分支，两个分支的输出在预测阶段加性组合。在AqSolDB数据集上预训练、在BigSolDB2数据集上微调后，预测精度显著提升且运行变异降低。可解释性分析通过最佳线性投影、分子嵌入和GNNExplainer显示化学分支对齐已知物化描述符，结构分支捕捉图拓扑和官能团模式。在两个数据集上，该框架取得有竞争力的预测性能，同时使化学与结构信息的各自作用更透明。
论文MLPGNNAqSolDB
推荐理由：这篇论文把化学描述和分子结构分开建模再相加，既准确又能解释预测依据。在AqSolDB和BigSolDB2上效果很好，适合医药研发。
原文
09:16
09:16官方账号arXiv cs.LG@Mojgan Alishiri, Amirhossein Arzani
该论文提出一种自解释算子学习框架，将算子学习重构为通过积分方程表达的广义函数线性模型的线性组合。利用积分方程的加性可分解性，将输入域划分为子域并计算局部积分，以评估每个区域对预测的贡献。在血流和非定常空气动力学两类流体问题中验证了函数到标量和函数到函数映射。结果表明，算子优先关注具有强特征梯度的区域，且解释性直接内嵌于算子结构，无需外部工具。
论文Self-explainable Operator Learning可解释AI算子学习
推荐理由：这篇论文让AI模型不再黑箱：用积分方程把算子学习拆成可解释的局部贡献，在流体力学上验证了梯度区域是模型重点。
原文
6月29日
10:08
10:08官方账号arXiv cs.AI@Zuoou Li, Wenlong Zhao, Kelly Yu, Weitong Zhang, Paul M. Matthews, Wenjia Bai, Bernhard Kainz, Mengyun Qiao
CPAgents是一个由三个AI智能体（Analyst、Proposer、Verifier）组成的迭代框架，用于自动构建心血管表型关联研究中的可解释复合表型（如多项式、比值、交互形式）。在72个分类器-疾病-指标组合中，CPAgents生成的复合表型在56个组合中取得最优排名（基线仅18个），涵盖全部9个临床疾病类别。该方法能自动发现超出专家手工特征选择的更强表型-疾病关联，并生成透明的证据链。
AI模型CPAgents智能体表型关联
推荐理由：这篇论文提出了CPAgents，用三个智能体自动组合心脏影像特征，相比传统方法在56/72测试中拿第一。适合关心AI辅助医学研究的读者。
原文
6月15日
11:11
6月10日
12:10
12:10官方账号arXiv cs.LG@Kiarash Rezaei, Omran Ayoub, Sebastian Troia, Francesco Lelli, Paolo Monti, Carlos Natalino
精选
该论文提出一个结合大语言模型（LLM）和SHAP特征交互的生成式可解释AI框架，专为下一代网络运维设计。传统XAI方法输出技术性强，非专家难以理解，而该框架通过结构化提示融入互特征交互数据，生成自然语言解释。在光传输质量估计用例中，人类评估者验证其解释有用性提升12.2%，范围提升6.2%，正确率达97.5%。这解决了网络AI模型黑箱问题，让运营商能信任并采纳AI决策。
论文可解释AILLMSHAP
推荐理由：网络运维团队终于有了能看懂AI决策的工具——LLM把SHAP的复杂特征交互翻译成自然语言，做网络AI可解释性的开发者可以直接参考这个框架。
原文
6月9日
11:55
11:55官方账号arXiv cs.AI@Beiwen Zhang, Yongheng Liang, Guowei Zou, Haitao Wang, Hejun Wu
精选
研究者提出Collaboration Policy Tree (Co-pi-tree)，一种将大语言模型推理蒸馏为可执行策略树的方法，用于人机协作。该方法包含伙伴行为预测树和智能体动作选择树，通过闭环交互反馈自动改进策略分支。在Overcooked-AI实验中，Co-pi-tree相比基线平均奖励提升35.4%，同时将LLM查询次数减少77.7%，测试延迟降低97.1%。这解决了传统多智能体强化学习缺乏可解释性、以及直接使用LLM决策成本高的问题。
论文人机协作策略树LLM蒸馏
推荐理由：做AI协作系统或人机交互研究的团队值得关注——Co-pi-tree用可解释的策略树替代黑箱模型，既提升性能又大幅降低推理成本，实验数据很有说服力。
原文
6月5日
00:22
00:22rohanpaul_ai@rohanpaul_ai
72°
Guide Labs 推出了首个可解释 AI 平台 Clairy，旨在解决 AI 的“黑箱”问题。该模型以文本块形式生成内容，用户可点击某一块查看模型生成时使用的概念（如“海洋生物”、“计算机科学”等）。Clairy 还提供训练数据归因功能，将生成的文本块与相似训练样本关联，便于诊断错误。此外，用户可通过概念引导直接增强或抑制特定概念，无需重写提示或重新训练模型。
AI产品可解释AI黑箱问题概念引导
推荐理由：Clairy 让 AI 决策过程透明化，解决了模型输出错误时只能靠猜的痛点，做 AI 安全、审计或模型调试的团队值得关注，可以直接用它来诊断和修正模型偏见。
原文
6月2日
11:08
11:08官方账号arXiv cs.AI@Hallah Shahid Butt, Qiong Huang, Gökhan Demirel, Kevin Förderer, Erfan Tajalli-Ardekani, Simnon Waczowicz, Luigi Spatafora, Veit Hagenmeyer, Benjamin Schäfer
该论文提出了一种可解释的深度强化学习（XRL）框架，用于优化住宅建筑的能源管理，特别是配备光伏和储能系统的建筑。研究对比了在线策略（如A2C和PPO）与离线策略算法，发现前者在累积奖励和策略稳定性上更优。框架利用事后解释技术揭示黑箱模型的决策过程，不仅降低了电费，还提供了透明、可操作的见解。实验基于合成数据和德国KIT的Living Lab真实数据，验证了方法的有效性。
论文深度强化学习可解释AI建筑能源管理
推荐理由：建筑能源管理团队终于有了可解释的AI方案——XRL框架在降低电费的同时让你看清决策逻辑，做楼宇自动化或智慧能源的开发者可以直接参考。
原文
09:43
09:43官方账号arXiv cs.AI@Federica Tonti, Ricardo Vinuesa
该研究提出结合多智能体深度强化学习（MARL）与可解释深度学习（XDL）的方法，用于减少壁面湍流中的阻力。通过SHAP归因分析，比较了三种奖励设计策略，其中基于摩擦系数和壁面压力波动组合的SHAP策略表现最佳，实现了34.44%的减阻率和34.01%的净节能率，且归一化输入功率仅0.43%。相比传统对抗控制，减阻和净节能分别提升49.41%和48.52%，同时将归一化执行成本从5.90%降至0.43%。分析表明，节能策略与压力门控执行一致，主要在壁面压力接近零时激活，时间尺度与近壁湍流结构寿命相当。
论文深度强化学习可解释AI湍流减阻
推荐理由：流体力学和AI交叉领域的研究者值得关注——该工作用可解释AI找到了湍流减阻的节能控制策略，比传统方法效率提升近50%，且执行成本降低一个数量级。
原文
6月1日
10:19
10:19官方账号arXiv cs.LG@Federico Califano, Jacopo Ciambella
该研究提出一种基于语法符号回归的框架，用于从数据中发现满足热力学约束的耗散势函数。框架通过构造凸性保持的语法规则，自动保证候选势函数满足热力学第二定律的凸性和非负性要求，适用于率相关和率无关的耗散机制。在合成数据集和实验数据上的验证表明，该方法能准确恢复牛顿、幂律和宾汉粘塑性本构，并在弹性体振荡剪切实验中优于线性Zener模型。这项工作为数据驱动本构建模提供了兼顾可解释性和物理一致性的新路径。
论文符号回归本构建模热力学约束
推荐理由：做材料本构建模或计算力学的团队，终于有了一个既能保证热力学约束又不牺牲可解释性的符号回归工具，值得在实验数据上试试。
原文
5月28日
11:31
11:31官方账号arXiv cs.AI@Tirtharaj Dash
精选
BIRDNet 是一种新型神经网络架构，通过挖掘特征间的布尔蕴含关系（BIR）构建知识图，并将其编码为网络连接。该方法使用稀疏异常二项检验挖掘关系，形成有向图，等价于命题规则库。BIRDNet 的每层隐藏单元对应一条规则，仅连接两个特征，因此架构天然稀疏，最多只有 2/d 的权重活跃。模型保持可解释性，每个训练单元保留稳定的符号身份，规则可直接从网络读取。在六个转录组和蛋白质组基准测试中，BIRDNet 在 AUROC 上仅比最强基线低 0.02，但活跃参数减少高达 96 倍，且第一层规则能恢复已知生物标志物。
论文可解释AI布尔蕴含稀疏网络
推荐理由：BIRDNet 解决了深度神经网络可解释性与稀疏性的矛盾，做生物信息学或知识图谱的团队可以直接用它的开源代码，在保持高精度的同时获得可读的规则。
原文
5月25日
11:15
11:15官方账号arXiv cs.AI@Laura R. Marusich, Mary Grace Kozuch Dhooghe, Jonathan Z. Bakdash, Murat Kantarcioglu
精选
一项大规模人类行为实验评估了LLM生成的叙事解释对分类任务决策表现的影响。研究发现，无论叙事解释的说服力高低，其提升决策准确性的效果并不优于仅提供AI预测。叙事解释增加了用户对AI的依赖，但无论AI预测正确与否，这种依赖都会增强。探索性分析还表明，更具说服力的叙事可能延长决策响应时间，并削弱用户区分正确与错误预测的能力。该研究指出，在AI预测中加入叙事解释可能带来决策表现的权衡，需要更多工作来理解其影响机制。
论文LLM叙事解释人机决策
推荐理由：做AI辅助决策系统或人机协作研究的团队，这篇论文揭示了叙事解释可能带来的隐藏成本——它不一定提升准确率，反而可能拖慢决策并增加盲目信任，值得仔细读读实验设计。
原文
5月21日
10:22
10:22官方账号arXiv cs.LG@Yinsong Chen, Samson S. Yu, Zhong Li, Chee Peng Lim
精选
该论文提出一个统一框架，将贝叶斯神经网络（BNN）后验分布通过Lipschitz连续归因算子映射为解释分布，并引入不确定性感知相关性归因算子（UA-RAO），利用均值、方差、变异系数、分位数和集合聚合度量来总结解释分布。理论部分提供了蒙特卡洛可达性和Wasserstein近似界限。在15类电能质量扰动分类基准上，深度集成与均值UA-RAO相比确定性基线提升了定位性能，其他UA-RAO摘要揭示了点估计归因中缺失的不确定性模式。该框架是领域无关的，可应用于任何BNN与Lipschitz连续归因算子的组合。
论文可解释AI贝叶斯神经网络不确定性量化
推荐理由：该框架解决了XAI方法缺乏不确定性量化的问题，做可解释AI或电力系统故障诊断的研究者可以直接参考其理论证明和实验设计。
原文
5月20日
15:51
15:51官方账号arXiv cs.AI@Gabriel Freedman, Adam Dejl, Adam Gould, Mansi, Lihu Chen, Jianqi Jiang, Francesca Toni
精选
该论文提出推理时论证（ITA），一种可训练的神经符号框架，用于三元声明验证（真/假/不确定）。ITA 使用形式论证语义指导 LLM 生成论证并分配基础分数，同时计算三元预测。训练时，论证生成和评分根据预测质量优化；推理时，最终预测忠实于决定判决的论证和分数，而非事后推理痕迹。在两项三元声明验证数据集上，ITA 优于论证基线，并与非论证直接预测基线竞争，同时提供可检查的论证结构。
论文神经符号学习声明验证三元分类
推荐理由：这个框架解决了高可信场景下声明验证的忠实性和不确定性表达问题，做事实核查、医疗或金融 AI 的团队可以直接参考其可解释的推理机制。
原文
11:09
11:09官方账号arXiv cs.LG@Antonio Peña Corredor, Julien Lesseur, Romain Nunez, Paul Rivalland, Thomas Philippe
精选
航空SiC/SiC复合材料的X射线CT无损检测依赖专家目视评估，缺乏可追溯性。研究团队提出p-ResNet-50，在卷积网络中引入原型层，将高检测精度与基于案例的解释结合。六个学习原型与专家定义的语义类别（健康基体、基体-空气界面、孔隙、线状缺陷、混合形态）对齐，每个分类都可追溯到物理有意义的参考。通过锚点和中心点正则化项防止原型坍缩，UMAP潜空间分析明确标出模型可靠与不可靠区域。在约12000个补丁的数据集上，p-ResNet-50达到与黑盒ResNet-50相当的精度（0.957 vs 0.959），同时提供可追溯决策和不确定性标记。
论文可解释AI缺陷检测X射线CT
推荐理由：做工业无损检测或AI可解释性研究的团队会感兴趣——p-ResNet-50在保持高精度的同时让黑盒模型变得可审计，航空质检场景可以直接参考其原型对齐方法。
原文
5月19日
14:34
14:34官方账号arXiv cs.AI@Amritpal Singh, Andrey Barsky, Mohamed Ali Souibgui, Ernest Valveny, Dimosthenis Karatzas
精选
可解释AI（XAI）技术对深度学习模型的验证和负责任使用日益重要，但缺乏可靠的评估标准。研究者提出了一种基于连续输入扰动的量化指标，用于衡量XAI方法的质量，该指标从充分性和必要性两个维度评估归因信息对模型决策的影响。实验表明，该指标比现有方法更符合人类对解释质量的直觉。基于此指标，团队还提出了一种新的XAI方法，通过可微分的近似指标作为监督信号微调模型，在不降低模型性能的前提下生成因果解释。该方法在多个量化指标上优于现有XAI技术。
论文可解释AI量化评估因果解释
推荐理由：这项研究解决了XAI领域缺乏可靠评估标准的痛点，做模型可解释性研究的团队可以直接用这个指标来量化自己的方法，值得关注。
原文
10:59
10:59官方账号arXiv cs.LG@Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso
精选
神经符号概念模型（NeSy-CBMs）结合神经网络与符号推理，适用于高风险场景，但其预测可能过于自信。研究者引入共形预测（CP）框架，提出三个理想目标：一致性、覆盖率和简洁性。现有方法无法同时满足这些目标，因此他们提出COCOCO，一种事后框架，联合共形化概念和标签，并通过演绎-溯因修正步骤协调两者。COCOCO满足所有三个目标，保持无分布覆盖率，对不完美知识具有鲁棒性，并支持用户指定的大小预算。在8个数据集上的实验表明，COCOCO在性能和集合大小方面优于竞争对手和基线方法。
论文共形预测神经符号模型概念模型
推荐理由：这项研究解决了高风险AI应用中模型过度自信的痛点，做可解释AI或安全关键系统的团队可以直接参考COCOCO框架来提升预测可靠性。
原文
10:05
10:05官方账号arXiv cs.AI@S. Tazili, A. Mansour, M. Y. Chkouri
精选
本文综述了AI在网络安全中的当前趋势，特别聚焦于入侵检测应用。研究涵盖了生成式AI、自然语言处理、联邦学习和可解释AI等关键技术，这些技术正被用于提升威胁检测的准确性和可解释性。通过对比分析不同AI技术在入侵检测中的性能，论文揭示了当前方法的优势与局限。该综述为网络安全从业者和研究者提供了有价值的参考，帮助他们理解AI如何增强防御能力。
论文网络安全入侵检测生成式AI
推荐理由：这篇综述系统梳理了AI在入侵检测中的最新进展，做网络安全或AI安全应用的团队可以快速了解技术趋势，直接用于选型或研究方向参考。
原文
10:04
10:04官方账号arXiv cs.AI@Nisreen Albzour, Sarah S. Lam
精选
本研究系统优化了轻量级Vision Transformer（ViT-Tiny）用于宫颈癌细胞自动分类，在Herlev数据集上达到94.9%-95.2%的交叉验证准确率。通过对比数据增强、类别加权和超参数，发现随机水平翻转和类别权重(0.7×1.3)组合最有效。Grad-CAM分析显示模型注意力聚焦于细胞核、细胞边界和染色质纹理等临床相关形态特征。这项工作表明Vision Transformer能在保持临床性能的同时提供可解释的决策支持，满足医疗AI部署对透明度的要求。
论文Vision Transformer宫颈癌分类可解释AI
推荐理由：医疗AI团队终于有了兼顾准确率和可解释性的宫颈癌筛查方案——ViT-Tiny在轻量级下达到95%准确率，且注意力热图与病理标准对齐，做细胞学自动分析的开发者可以直接参考其优化策略。
原文
5月15日
09:50
09:50官方账号arXiv cs.AI@Yu Zhang, Dongjiang Zhuang, Qu Zhou, Zheng Huang, Junhe Wu, Jing Cao, Kai Chen
精选
该论文提出了一种确定性智能体工作流，用于解决HS关税分类这一高难度专家任务。传统端到端大模型提示方法在多维规则推理中常失败，而该工作流通过固定控制流、将语言模型调用限制在狭窄阶段，并保留局部反思与验证机制，实现了可解释性。在HSCodeComp数据集上，使用Qwen3.6-plus模型达到六位数64.2% top-1和78.3% top-3准确率；开源模型Qwen3.6-27B-FP8在非思考模式下与前沿模型有高度一致性。手动审计发现部分基准标签可能偏离HS通用规则，相关记录已公开。
论文智能体工作流HS关税分类可解释AI
推荐理由：做国际贸易合规或海关数据自动化的团队，终于有了一个可解释、可审计的AI分类方案，比黑箱模型更可靠，建议直接看论文的六阶段流水线设计。
原文
5月11日
11:44
11:44官方账号arXiv cs.AI（学术论文）
研究人员提出PSP-HDC框架，利用图结构超维计算解决材料加工-结构-性能预测中的数据稀疏和异质性问题。该框架将PSP依赖关系编码为内部先验，通过可训练的标量到超向量编码器学习参数嵌入，并基于图对齐的绑定与捆绑进行样本表示。在3D制造平台测试中，PSP-HDC在随机分割和过程泛化下准确率达0.910和0.896，优于传统模型。该方法提供了内在可解释性，可追溯至参数和组级别的归因。
论文超维计算材料科学预测可解释AI
推荐理由：该工作针对材料科学中数据高效预测的难题，提出了一种结合图结构与超维计算的新方法，在可解释性和少量数据泛化上表现突出，对AI在工程材料领域的应用具有参考价值。
原文