Numerical（数值方法/数值分析）指用计算机对数学模型进行近似计算的研究领域，在机器学习中处于理论与工程的交叉位置：从神经网络优化、采样算法到科学计算与成像重建，其核心问题都是收敛性、精度与稳定性的量化保证。近期 arXiv cs.LG 上多篇工作显示，围绕数值与学习理论的结合正在形成几个热点方向。
Numerical 方法在机器学习中的近期进展
当前焦点与观察点
综合来看，当前讨论集中在三个层面。其一是收敛性与相变分析：无论策略梯度还是随机特征模型，研究者都试图给出可验证的收敛界和临界条件，使训练行为可预测。其二是无训练或轻量训练的数值方法：未训练 CNN、循环无训练 Transformer 等方案试图用更少的迭代计算换取相当性能，降低数值优化的成本。其三是硬件与算法的匹配：ASML 与蔡司指出，未来 Hyper NA EUV 光刻机的主要挑战在于更低的可用景深，这提示底层制造精度的数值约束会间接影响算力供给曲线。
争议点在于理论保证与实际大规模模型的差距——多数收敛结果仍局限于简化设定，能否推广到生产级模型尚待验证。后续可关注相变理论在高维非凸优化中的推广，以及数值反问题方法在医学成像、检测任务中的落地效果。