12:38arXiv: DeepSeek@Andreas Opedal, Francesco Ignazio Re, Abulhair Saparov, Mrinmaya Sachan, Bernhard Schölkopf, Ryan Cotterell精选研究者将自然语言推理建模为搜索问题,利用 A* 搜索算法指导 LLM 生成正确且高效的推理步骤。通过监督微调(基于 A* 执行轨迹)和强化学习(结合 A* 过程奖励模型),Llama-3.2 1B-3B 模型从近乎零准确率提升至超越 DeepSeek-V3.2。研究发现,简单正确性奖励最大化准确率,而 A* 信号能平衡准确率与效率。在更大搜索空间下,基于不完美启发式的训练反而带来更优准确率。这项工作展示了经典搜索算法指导 LLM 推理的潜力。论文推理模型A* 搜索后训练强化学习Llama-3.2推荐理由:A* 搜索让小模型推理能力大幅跃升,做推理优化或小模型部署的团队值得关注,可以直接参考其训练方法。原文