Sudoku-Extreme

general · First seen 2026-05-22 · Last seen 2026-11-13 · 12 mentions

Overview

Sudoku-Extreme 是一个极难题型的数独数据集,常被用作检验神经模型推理能力的基准:模型需在极少监督信号下完成需要多步逻辑推导的求解任务。由于普通大模型在该基准上表现有限,它已成为循环推理、能量模型等新型架构的重要试金石,相关研究在 2025 年下半年密集出现。

Sudoku-Extreme 相关的近期进展

  • Energy-Based Reasoners:用能量函数引导循环推理,Sudoku-Extreme 准确率达 99.9%:该工作在 Sudoku-Extreme 上取得 99.9% 的准确率,方法是通过能量函数引导模型进行循环式推理迭代。
  • CRAM 能量模型训练推理速度比 Looped 模型快 1000 倍:CRAM 提出了一种能量模型路线,声称在训练与推理速度上比传统 Looped(循环)模型快 1000 倍,显示能量视角在效率上可能具备明显优势。
  • Attractor Models:通过不动点求解让循环Transformer可扩展:该研究将循环 Transformer 的迭代过程转化为不动点求解,以解决循环架构在规模扩大时的可扩展性问题。
  • Equilibrium Reasoners:学习吸引子实现可扩展推理:思路与吸引子动力学一脉相承,通过学习平衡点(吸引子)让推理过程自然收敛,主打可扩展性。
  • 扩散模型作为无时间步迭代推理训练课程:将扩散模型当作训练课程,使迭代推理无需显式时间步,为循环推理提供了另一条训练路径。
  • 当前焦点与观察点

    目前围绕 Sudoku-Extreme 的研究主线是“迭代/循环推理如何收敛”。能量模型、吸引子与不动点方法本质上都在回答同一个问题:如何让模型反复修正答案而不发散,并且比朴素循环更快、更省算力。

    争议点主要有二。一是基准本身的代表性:Sudoku-Extreme 是结构规整、有唯一解的任务,在这个任务上的高分能否推广到开放性推理仍存疑。二是效率宣称的可比性:例如 CRAM 宣称的 1000 倍速度提升,与 99.9% 准确率来自不同模型和设置,横向比较需谨慎。

    Gary Marcus 等研究者则从符号主义角度关注这一波进展,认为循环推理的成功或印证神经符号方法的回归。后续值得观察的是:这些架构能否在数学证明、代码生成等更复杂的推理基准上复制 Sudoku-Extreme 上的成绩,以及能量模型的高效训练路线能否被更大规模模型验证。

    Coverage

    6 on file