精选理由
LRM的推理链常被用户视为深思熟虑的证据，但这项研究戳破了这个幻觉——推理行为并不等于置信度表达更可靠。做模型对齐或安全评估的团队值得关注，尤其是那些在医疗、金融等高风险场景部署LRM的开发者，看完会重新审视你的置信度校准策略。
该研究提出一个系统框架，用于量化大型推理模型（LRM）在输出长链思维时，其内在置信度与语言表达置信度之间的对齐程度（即忠实校准FC）。研究发现，LRM的推理行为并不会自动提升FC，且针对非推理模型的提示干预在推理场景中无效。不同置信度估计器对同一推理轨迹给出分歧评估，暴露了现有评估方法的脆弱性。这项工作将FC确立为LRM在高风险部署场景下的关键可靠性与对齐目标。
AI 翻译 · 中文
该研究提出一个系统框架，用于量化大型推理模型（LRM）在输出长链思维时，其内在置信度与语言表达置信度之间的对齐程度（即忠实校准FC）。研究发现，LRM的推理行为并不会自动提升FC，且针对非推理模型的提示干预在推理场景中无效。不同置信度估计器对同一推理轨迹给出分歧评估，暴露了现有评估方法的脆弱性。这项工作将FC确立为LRM在高风险部署场景下的关键可靠性与对齐目标。
Reliable uncertainty communication is critical to the trustworthiness of LLMs, yet faithful calibration (FC)--the alignment between models' intrinsic and (linguistically) expressed confidence--is a persistent failure mod…