精选理由
别被固定预算的基准分数骗了，这篇论文揭示了很多模型实际能力需要更多推理计算才能看出来。
一项研究评估了12个前沿语言模型在7个基准上的表现，包括FrontierMath、TerminalBench和网络安全任务。研究发现，增加推理计算（如更大token预算和重复提交）能显著提升得分，例如在FrontierMath上提升达20%以上。固定预算的评估会低估新一代模型能力，因为它们在更大预算下能解锁并更可靠地解决难题。不同基准对推理缩放方法的依赖各异：重复提交对多数基准有效，但外部反馈仅在特定任务中有帮助。
AI 翻译 · 中文
一项研究评估了12个前沿语言模型在7个基准上的表现，包括FrontierMath、TerminalBench和网络安全任务。研究发现，增加推理计算（如更大token预算和重复提交）能显著提升得分，例如在FrontierMath上提升达20%以上。固定预算的评估会低估新一代模型能力，因为它们在更大预算下能解锁并更可靠地解决难题。不同基准对推理缩放方法的依赖各异：重复提交对多数基准有效，但外部反馈仅在特定任务中有帮助。
AI evaluations are shifting toward harder tasks that benefit from longer trajectories involving tool use and iterative problem solving. As a result, performance is increasingly sensitive to the amount and allocation of c…