“Calibrated(校准)”在机器学习语境中,指的是一种让模型输出的概率、分数或阈值与真实世界频率或下游目标保持一致的技术方向。它并非某个单一模型或产品,而是一类贯穿预测、采样、解码和推荐系统的方法家族:从让神经网络的置信度更接近真实正确率,到让解码停止规则或采样路径符合统计假设。近年随着深度学习模型规模扩大,校准问题从分类任务的附属步骤,逐渐变成影响系统可靠性与安全性的核心环节。
Calibrated 方法近期进展
2026年7月,一项来自 DeepSeek 的研究提出 Calibrated e-CUSUM 解码,用于量化推理模型。该工作指出了一个关键问题:token log-probability 作为观测值本身存在偏差,直接用于序列停止判断并不可靠,需要先对观测进行校准才能让 e-CUSUM 检验有效。这一结论对推理时的计算分配和早期退出机制有直接影响。Calibrated e-CUSUM解码用于量化推理模型:为什么Token Log-Probability是错误观测
2026年10月,Score-Calibrated Flow 提出一种无需重要性采样的未归一化密度采样算法。传统基于流的采样方法往往依赖重要性权重来纠正分布偏差,但会引入高方差。该工作通过校准得分函数,在保持采样正确性的同时绕开了这一步骤,对能量模型和连续密度估计场景有参考意义。Score-Calibrated Flow:无需重要性采样的未归一化密度采样新算法
同一时期,CLARA 探索了仅用站点观测数据学习联合概率天气预测。与依赖再分析数据或数值模式不同,CLARA 直接面向稀疏站点观测,并强调输出概率的校准质量。这反映出校准已从通用机器学习指标,进入气象等对概率可靠性高度敏感的应用领域。CLARA:仅用站点观测数据学习联合概率天气预测
在推荐系统方向,RLCP 用校准剪枝让序列推荐的动作集随会话动态伸缩。其核心思路是:动作空间的候选规模不应固定,而应依据当前会话状态进行校准,从而在效果与计算成本之间取得更细粒度的平衡。RLCP:用校准剪枝让序列推荐的动作集随会话动态伸缩
当前焦点与观察点
Calibrated 方法当前最集中的争议在于“校准对象”的界定。传统校准关注输出概率与准确率的对齐,但上述工作显示,在采样、解码和序列决策中,需要校准的可能是中间统计量、得分函数甚至动作空间本身。另一个观察点是校准与计算效率的绑定:e-CUSUM 解码和 RLCP 剪枝都表明,校准不再只是提升可靠性,也直接决定推理或检索的预算分配。
值得留意的是,气象预测和推荐系统等不同领域对“校准良好”的定义并不统一。天气预测强调概率的可靠性,推荐系统更关注排序质量与候选规模的匹配。未来 Calibrated 方法能否形成跨领域的统一评价框架,仍待更多实证研究。同时,仅用站点观测、避免重要性采样等设定,也提示校准技术正在向数据稀疏和计算受限场景延伸。