基于偏依赖的可解释约束指导神经网络训练

Steering Neural Network Training through Interpretable Constraints Based on Partial Dependence

精选理由

这篇论文给了你可解释AI的新思路:用偏依赖约束让模型学得更准,还能确保解释符合常识,尤其适合回归问题。

AI 摘要

论文提出一种通过偏依赖约束引导神经网络训练的新方法,使模型对特定特征的响应符合先验知识。在多个回归任务(包括动态系统预测)上的实验表明,该方法训练的模型比无约束模型性能更好且数据效率更高。从约束模型得到的解释与实际用户知识一致,而无约束模型则不然。

AI 翻译 · 中文

论文提出一种通过偏依赖约束引导神经网络训练的新方法,使模型对特定特征的响应符合先验知识。在多个回归任务(包括动态系统预测)上的实验表明,该方法训练的模型比无约束模型性能更好且数据效率更高。从约束模型得到的解释与实际用户知识一致,而无约束模型则不然。

arXiv cs.LGOver the last few years, there has been an increased interest in making machine learning models more interpretable. Although a great deal of effort goes into developing techniques for interpreting the interactions learne