09:55
官方账号arXiv cs.LG@Mikhail Solonko, Molozhavenko Alexander, Maxim Rakhuba
推荐理由：Muon在矩阵优化里挺火，但上Stiefel流形一直靠近似。这篇论文给了精确闭式解，还做了个Skewon，收敛性有保障，做正交约束优化的值得看。
Stiefel流形
共 1 条相关 AI 资讯
8月7日
09:55
Muon是一种矩阵感知优化方法，用于Stiefel流形（正交列矩阵集合）上的优化。以往将Muon扩展到该流形的做法依赖启发式或迭代近似。新论文证明Stiefel Muon更新存在精确闭式解，并据此实现高效算法Skewon。Skewon在平滑非凸条件下具有一阶收敛保证。