11:53arXiv cs.LG@Nick Oh, Helen Jin本文指出,后验解释方法常用于解释科学机器学习模型,但仅凭模型可靠(预测匹配结果)和解释忠实(解释匹配模型)不足以证明模型揭示了现象的真实结构。文章强调,两者均未验证模型的工作机制是否与现象本身一致。作者认为,要支持关于现象结构的声明,还需依赖外部佐证,而非仅靠解释链。论文后验解释可解释性科学模型XAI推荐理由:这篇论文点出一个关键漏洞:模型准、解释对,不等于模型真懂现象。做AI科学发现的人必看。原文