精选理由
这篇论文提出RNC-LM,解决了LM方法在强曲率问题上的局限,用黎曼法坐标做高阶修正,在PINN和势能面拟合上又准又快。
非线性最小二乘优化中,参数效应曲率是LM方法的主要非线性来源。标准LM的切线空间步长在参数坐标中直更新,而测地线加速度仅在无穷小步长时精确消除该曲率。本文提出RNC-LM,通过重参数化测地线方程扩展至任意阶修正,构建有限步更新并控制步长。在经典基准测试中,RNC-LM在弯曲谷和秩亏问题上提升了收敛性和鲁棒性。在反应扩散PINN失败模式基准上,相对L2误差降至1e-3量级并恢复物理解;在大规模机器学习势能面拟合任务中,相比标准LM实现了34倍加速。
AI 翻译 · 中文
非线性最小二乘优化中,参数效应曲率是LM方法的主要非线性来源。标准LM的切线空间步长在参数坐标中直更新,而测地线加速度仅在无穷小步长时精确消除该曲率。本文提出RNC-LM,通过重参数化测地线方程扩展至任意阶修正,构建有限步更新并控制步长。在经典基准测试中,RNC-LM在弯曲谷和秩亏问题上提升了收敛性和鲁棒性。在反应扩散PINN失败模式基准上,相对L2误差降至1e-3量级并恢复物理解;在大规模机器学习势能面拟合任务中,相比标准LM实现了34倍加速。
Nonlinear least-squares optimization is central to regression, physics-informed neural networks, and other machine-learning tasks. Such problems have a natural geometric interpretation, model predictions form a manifold …