SHAP(SHapley Additive exPlanations)是一种基于博弈论 Shapley 值的模型解释方法,用于量化每个特征对机器学习模型单次预测的贡献,是目前可解释机器学习(XAI)领域应用最广泛的工具之一。它通过将预测结果公平地“分摊”到各输入特征上,帮助研究者和工程师理解模型行为、排查偏差。近期围绕 SHAP 的研究呈现出向动态场景、高维决策环境延伸的趋势,同时在工业界持续作为标准解释工具被落地使用。
SHAP 近期进展
当前焦点与观察点
应用面上,SHAP 正在被用到越来越多样的领域:有研究用可解释特征分析歌唱情感识别(相关论文),有工作用机器学习预测纤维增强高性能混凝土高温后的抗压强度并结合解释分析(相关论文),还有分析 200 万条 LLM 引用数据、找出页面被引用关键因素的研究(相关论文)。这些工作共同点是:模型只是手段,解释出的特征贡献才是研究结论的依据。
争议与局限方面,学界对 Shapley 值解释的可靠性讨论在增多——特征之间的相关性、计算成本近似误差、以及解释方法缺乏统一的评估标准,都是常被质疑的点。因此像“评估解释方法的方法”这类元研究开始出现,概率因果影响框架等替代性可计算解释方案(相关论文)也在尝试从因果角度补充关联性解释的不足。观察 SHAP 生态的下一个节点,可以关注两条线:一是向动态、序贯、高维场景的扩展(DynSHAP、ReShap 即为代表),二是解释方法的可信度评估是否形成行业共识标准。