精选理由
做 LLM 推理优化的开发者终于有了一个基于置信度动态的简单有效方法——CDG 投票在多个模型上都能提升准确率，值得直接试。
本文首次揭示了大型语言模型（LLM）推理过程中置信度的动态模式：正确推理轨迹的置信度随时间提升（正增益），而错误轨迹则衰减。基于此发现，作者提出置信度动态增益（CDG）投票方法，在多个开源模型（DeepSeek-R1、gpt-oss、Gemma-3、Qwen-QwQ）和基准测试（AIME24/25、HMMT25、BRUMO25）上显著提升了推理答案选择的准确性。该方法为推理优化提供了新的判别信号，并附有理论解释。代码已开源。
AI 翻译 · 中文
本文首次揭示了大型语言模型（LLM）推理过程中置信度的动态模式：正确推理轨迹的置信度随时间提升（正增益），而错误轨迹则衰减。基于此发现，作者提出置信度动态增益（CDG）投票方法，在多个开源模型（DeepSeek-R1、gpt-oss、Gemma-3、Qwen-QwQ）和基准测试（AIME24/25、HMMT25、BRUMO25）上显著提升了推理答案选择的准确性。该方法为推理优化提供了新的判别信号，并附有理论解释。代码已开源。
Inference time optimization techniques, such as repeated sampling, have significantly advanced the reasoning capabilities of Large Language Models (LLMs). However, the critical role of model uncertainty remains largely u…