精选理由
做模型可靠性或安全关键应用的团队,终于有了一个既高效又精准的不确定性量化工具——在 MC Dropout 基础上加 Dirichlet 分布,校准效果更好,值得在分类任务中试试。
传统神经网络缺乏不确定性估计能力,而贝叶斯神经网络计算复杂。蒙特卡洛 Dropout 通过多次随机前向传播近似贝叶斯推理,但不确定性表示不够精细。本文提出将 Dirichlet 分布框架集成到 MC Dropout 中,利用 Sensoy 等人的方法建模类别概率,从而获得更丰富的不确定性信息。该方法在保持 MC Dropout 计算效率的同时,显著提升了不确定性估计的校准质量。实验表明,该方法能生成良好校准的不确定性估计,为不确定性感知的深度学习提供了实用方案。
AI 翻译 · 中文
传统神经网络缺乏不确定性估计能力,而贝叶斯神经网络计算复杂。蒙特卡洛 Dropout 通过多次随机前向传播近似贝叶斯推理,但不确定性表示不够精细。本文提出将 Dirichlet 分布框架集成到 MC Dropout 中,利用 Sensoy 等人的方法建模类别概率,从而获得更丰富的不确定性信息。该方法在保持 MC Dropout 计算效率的同时,显著提升了不确定性估计的校准质量。实验表明,该方法能生成良好校准的不确定性估计,为不确定性感知的深度学习提供了实用方案。
Traditional neural networks provide deterministic predictions without inherent uncertainty estimates. While Bayesian Neural Networks (BNNs) offer a principled approach to uncertainty quantification, their computational c…