HMMT(Harvard-MIT Mathematics Tournament,哈佛—MIT 数学锦标赛)是全球中学生水平最高的数学竞赛之一,每年 2 月在哈佛与 MIT 举行,分为代数、几何、组合、微积分等方向的个人赛与团队赛。由于题目难度接近奥赛顶级水平,近年它也被广泛用作衡量大模型数学推理能力的参考基准之一。
HMMT 相关的大模型推理进展
随着 HMMT 等高难度竞赛题成为推理模型的试金石,围绕如何提升模型推理能力的研究持续升温,近期多个工作值得关注:
当前焦点与观察点
从这批研究可以看出,社区的关注点正在从“堆更强的教师模型”转向挖掘模型自身潜力:自蒸馏(self-distillation)成为热门方向,WISD、ST-OPSD、DualOPSD 等工作分别从弱化教师、修复教师缺陷、自适应策略等角度切入,说明这一路线尚无定论,仍处于快速试错阶段。
另一个值得观察的趋势是训练与推理的分工。TTEL 代表了“不动参数、在推理时做文章”的路线;而 DeepSeek 的 Stateful Reasoning via Insight Replay 则探索通过洞察回放实现有状态的推理。Google Research 发布的 SLEEP 思路也类似——给模型增加一段“离线巩固记忆”周期,以缓解上线后知识冻结与微调带来的灾难性遗忘。
对 HMMT 而言,其意义是双向的:一方面它作为高区分度的评测场景,持续暴露当前模型在多步严密推导上的短板;另一方面,这些蒸馏与推理时扩展方法的实际效果,也需要在 HMMT 这类高难度基准上得到检验。评测难度与训练方法的螺旋演进,仍将是大模型数学推理领域未来一段时间的主线。