Dirichlet-MC Dropout:提升神经网络不确定性估计质量

Dirichlet-Based Monte Carlo Dropout for Uncertainty Estimation in Neural Networks

精选理由

做模型可靠性或安全关键应用的团队,终于有了一个既高效又精准的不确定性量化工具——在 MC Dropout 基础上加 Dirichlet 分布,校准效果更好,值得在分类任务中试试。

AI 摘要

传统神经网络缺乏不确定性估计能力,而贝叶斯神经网络计算复杂。蒙特卡洛 Dropout 通过多次随机前向传播近似贝叶斯推理,但不确定性表示不够精细。本文提出将 Dirichlet 分布框架集成到 MC Dropout 中,利用 Sensoy 等人的方法建模类别概率,从而获得更丰富的不确定性信息。该方法在保持 MC Dropout 计算效率的同时,显著提升了不确定性估计的校准质量。实验表明,该方法能生成良好校准的不确定性估计,为不确定性感知的深度学习提供了实用方案。

AI 翻译 · 中文

传统神经网络缺乏不确定性估计能力,而贝叶斯神经网络计算复杂。蒙特卡洛 Dropout 通过多次随机前向传播近似贝叶斯推理,但不确定性表示不够精细。本文提出将 Dirichlet 分布框架集成到 MC Dropout 中,利用 Sensoy 等人的方法建模类别概率,从而获得更丰富的不确定性信息。该方法在保持 MC Dropout 计算效率的同时,显著提升了不确定性估计的校准质量。实验表明,该方法能生成良好校准的不确定性估计,为不确定性感知的深度学习提供了实用方案。

arXiv cs.LGTraditional neural networks provide deterministic predictions without inherent uncertainty estimates. While Bayesian Neural Networks (BNNs) offer a principled approach to uncertainty quantification, their computational c