论文09:55Stiefel流形上的Muon更新存在精确闭式解,新算法SkewonMuon在矩阵优化里挺火,但上Stiefel流形一直靠近似。这篇论文给了精确闭式解,还做了个Skewon,收敛性有保障,做正交约束优化的值得看。#Muon#Skewon#Stiefel流形#正交约束aarXiv cs.LG@Mikhail Solonko 等 3 人原文稍后读已读值得跟进有用关注 Muon