11:07arXiv cs.LG@Daniel Csillag, Rodrigo Schuller, Pedro Dall'Antonia, Leonidas Guibas, Luiz Velho, Tiago Novello这篇论文提出了一个新型的泛函梯度下降(FGD)算法,该算法在优化过程中自适应调整泛函梯度的表示,解决了固定近似引入误差的问题。作者证明,在光滑损失条件下该算法收敛到平稳点,在附加Polyak-Lojasiewicz条件时收敛到全局最小值,这是首个在一般环境下具有此类保证的可实现FGD方法。在回归、偏微分方程数值求解和现代计算机视觉任务中,该方法在效率和准确度上均优于固定近似FGD和神经网络基线。AI模型FGD自适应表示优化算法收敛性推荐理由:这篇论文提出了首个可实现的泛函梯度下降算法,能自适应调整梯度表示,理论上有收敛保证,实验上比传统FGD和神经网络更快更准。原文