Feature Attribution

concept · First seen 2026-05-22 · Last seen 2026-11-06 · 5 mentions

Overview

Feature Attribution(特征归因)是可解释机器学习中的一类核心方法,用于量化每个输入特征对模型某个预测结果的贡献程度,典型技术包括 SHAP、LIME、Integrated Gradients 等。随着模型在高风险领域(如航空安全、医疗预警)落地,特征归因正从“事后解释工具”演变为影响方法设计与系统架构的基础组件,其自身的稳定性与因果有效性也成为研究焦点。

Feature Attribution 近期进展

  • RoSHAP: A Distributional Framework and Robust Metric for Stable Feature Attribution:2025 年提出的 RoSHAP 把 Shapley 值从单一数值扩展为分布框架,并给出更稳健的度量,直接回应了经典 SHAP 在数据扰动下解释结果不稳定这一长期批评。
  • Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs:这项工作把特征归因与“实际因果”联系起来,在结构化因果输入下计算神经网络预测的实际原因,推动归因方法从相关性描述走向因果解释。
  • An Incremental Knowledge-Graph Learner Digital Twin for Evidence-Grounded Early Warning:在该数字孪生预警系统中,特征归因思想被用于支撑“有证据依据”的早期预警,说明归因正在嵌入预测系统的架构设计而非仅作事后分析。
  • Hybrid Machine Learning for Imbalanced Landing-Phase Safety Event Prediction from Flight Data:2026 年的这项航空安全研究在处理极度不平衡的着陆阶段飞行数据时,依赖特征归因识别关键风险变量,展示了归因在高风险、小样本场景中的实用价值。
  • 当前焦点与观察点

    当前讨论集中在三个方向。其一是稳定性:同一模型在不同背景样本下可能给出差异很大的归因结果,RoSHAP 等分布化框架正是针对这一问题的尝试。其二是因果性:纯相关性归因可能误导高风险决策,将实际因果计算引入神经网络解释是一个仍在早期但有潜力的路线。其三是工程集成:越来越多系统(如知识图谱驱动的数字孪生)在预测流程内部就直接利用归因信号,而不是事后补一份解释报告。

    值得关注的争议在于,特征归因的输出是否真正反映模型的决策逻辑,还是只是一种“看起来合理”的叙事。在监管要求模型可解释的背景下,这一问题的答案将直接影响归因方法能否作为合规依据,而非仅是调试辅助工具。

    Coverage

    4 on file