09:39arXiv cs.AI@Jessica McFadyen, Ole Jorgensen, Harry Coppock, Kevin Wei, Cozmin Ududec一项研究评估了12个前沿语言模型在7个基准上的表现,包括FrontierMath、TerminalBench和网络安全任务。研究发现,增加推理计算(如更大token预算和重复提交)能显著提升得分,例如在FrontierMath上提升达20%以上。固定预算的评估会低估新一代模型能力,因为它们在更大预算下能解锁并更可靠地解决难题。不同基准对推理缩放方法的依赖各异:重复提交对多数基准有效,但外部反馈仅在特定任务中有帮助。论文推理计算FrontierMathTerminalBenchLLM评估推荐理由:别被固定预算的基准分数骗了,这篇论文揭示了很多模型实际能力需要更多推理计算才能看出来。原文