#二阶优化

PINNs一直跑不过传统方法，DSGNAR用二阶优化解决了问题，精度和速度都大幅提升，代码已开源，值得看看。

多模态模型训练中模态竞争是常见痛点，做多模态预训练或大batch训练的团队可以直接参考这个二阶优化方案，能显著提升训练效率和稳定性。

Asteria 让二阶优化从理论走向实用，做大模型训练的团队可以大幅降低显存压力，同时保持收敛速度优势，值得关注其开源进展。