推理时计算 Test-time Compute

推理时计算指在模型回答阶段投入更多计算(更长思考、多路采样、搜索)来换取更高质量输出的范式,是继预训练扩展后的新增长轴。

o1/R1 类推理模型是代表:同一模型「多想几步」便能解出原本答错的题。工程上表现为可调的思考预算(thinking budget),按任务难度分配算力成为模型产品的新设计维度。

查看「推理时计算」相关最新资讯 →