#uncertainty calibration
4 stories · 0 in 7 days · 1 in 30 days
Stories, products and papers tagged "uncertainty calibration", newest first.
Nov 3
Aug 6
Jul 14
May 13
Papers19:12
Chinese content语义奖励崩塌:AI 系统优化导致的不确定性抑制问题这篇论文点出了 RLHF 优化的结构性隐患——模型越优化越不敢说“不知道”,做 AI 安全和对齐的研究者、模型训练工程师值得细读,看完会对当前偏好优化的代价有更深理解。