论文精选

基于黎曼法坐标的Levenberg-Marquardt方法的高阶几何更新

Higher-Order Geometric Updates for Levenberg-Marquardt Method via Riemann Normal Coordinates

精选理由

这篇论文提出RNC-LM,解决了LM方法在强曲率问题上的局限,用黎曼法坐标做高阶修正,在PINN和势能面拟合上又准又快。

AI 摘要

非线性最小二乘优化中,参数效应曲率是LM方法的主要非线性来源。标准LM的切线空间步长在参数坐标中直更新,而测地线加速度仅在无穷小步长时精确消除该曲率。本文提出RNC-LM,通过重参数化测地线方程扩展至任意阶修正,构建有限步更新并控制步长。在经典基准测试中,RNC-LM在弯曲谷和秩亏问题上提升了收敛性和鲁棒性。在反应扩散PINN失败模式基准上,相对L2误差降至1e-3量级并恢复物理解;在大规模机器学习势能面拟合任务中,相比标准LM实现了34倍加速。

AI 翻译 · 中文

非线性最小二乘优化中,参数效应曲率是LM方法的主要非线性来源。标准LM的切线空间步长在参数坐标中直更新,而测地线加速度仅在无穷小步长时精确消除该曲率。本文提出RNC-LM,通过重参数化测地线方程扩展至任意阶修正,构建有限步更新并控制步长。在经典基准测试中,RNC-LM在弯曲谷和秩亏问题上提升了收敛性和鲁棒性。在反应扩散PINN失败模式基准上,相对L2误差降至1e-3量级并恢复物理解;在大规模机器学习势能面拟合任务中,相比标准LM实现了34倍加速。

arXiv cs.LGNonlinear least-squares optimization is central to regression, physics-informed neural networks, and other machine-learning tasks. Such problems have a natural geometric interpretation, model predictions form a manifold