SHAP

general · First seen 2026-05-22 · Last seen 2026-11-13 · 41 mentions

Overview

SHAP(SHapley Additive exPlanations)是一种基于博弈论 Shapley 值的模型解释方法,用于量化每个特征对机器学习模型单次预测的贡献,是目前可解释机器学习(XAI)领域应用最广泛的工具之一。它通过将预测结果公平地“分摊”到各输入特征上,帮助研究者和工程师理解模型行为、排查偏差。近期围绕 SHAP 的研究呈现出向动态场景、高维决策环境延伸的趋势,同时在工业界持续作为标准解释工具被落地使用。

SHAP 近期进展

  • DynSHAP模型用于可解释的动态生存分析:该工作提出 DynSHAP,将解释能力扩展到动态生存分析场景,处理特征随时间变化对风险预测的贡献,弥补了传统 SHAP 面向静态单次预测的局限。
  • ReShap:面向高维多动作环境的可解释强化学习框架:ReShap 把 Shapley 值思想引入高维、多动作的强化学习环境,尝试回答“某个状态或动作对累计回报贡献多大”这一问题,是 SHAP 思想在序贯决策领域的延伸。
  • 论文提出新方法评估机器学习模型解释方法:随着 SHAP 等 XAI 方法大量使用,如何评估“解释本身是否可靠”成为新课题,该论文提出了对解释方法的评估框架,回应了学界对解释质量的争议。
  • Amazon Marketplace 用 SageMaker AI 评估商品内容质量:工业侧的典型落地案例,Amazon 在商品内容质量评估流程中使用 SageMaker AI 构建模型并借助 SHAP 类解释手段支撑业务决策,说明该方法在大型平台中仍是标配工具。
  • 当前焦点与观察点

    应用面上,SHAP 正在被用到越来越多样的领域:有研究用可解释特征分析歌唱情感识别(相关论文),有工作用机器学习预测纤维增强高性能混凝土高温后的抗压强度并结合解释分析(相关论文),还有分析 200 万条 LLM 引用数据、找出页面被引用关键因素的研究(相关论文)。这些工作共同点是:模型只是手段,解释出的特征贡献才是研究结论的依据。

    争议与局限方面,学界对 Shapley 值解释的可靠性讨论在增多——特征之间的相关性、计算成本近似误差、以及解释方法缺乏统一的评估标准,都是常被质疑的点。因此像“评估解释方法的方法”这类元研究开始出现,概率因果影响框架等替代性可计算解释方案(相关论文)也在尝试从因果角度补充关联性解释的不足。观察 SHAP 生态的下一个节点,可以关注两条线:一是向动态、序贯、高维场景的扩展(DynSHAP、ReShap 即为代表),二是解释方法的可信度评估是否形成行业共识标准。

    Coverage

    10 on file