AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

贝叶斯误差代理

共 1 条相关 AI 资讯
7月21日
11:54
11:54官方账号arXiv cs.LG@Shreyas Pradeepkumar Khandale
精选
Ishida等人提出的软标签贝叶斯误差估计器β(z)=E[min(z,1-z)]在概率并非真实后验时会产生严重偏差。研究证明温度缩放会导致代理值与真实误差完全脱钩:固定分类器在CIFAR-10、Fashion-MNIST和SVHN的8个二分类任务上,0-1误差不变,代理值可变化56倍至980倍。理论推导表明温度与代理值之间存在连续双射,使同一分类器能报告(0,1/2)区间内的任意代理值。在Logits服从高斯分布时,作者给出了代理-温度曲线的闭式参数解,经验拟合误差小于0.018。校准温度(最小化ECE)与稳定的代理值没有对应关系。
论文温度缩放贝叶斯误差代理校准

推荐理由:这篇论文把校准里的一个坑讲透了:温度缩放能让同一个模型输出任意低的代理误差,但实际错误率根本没变,数值能差几百倍。做不确定性估计的一定要看。
原文
精选全部日报登录