PapersBuilders10:31Chinese contentMuonGS：用 Gram-Schmidt 投影放松权重范数控制，预训练提速约 15%改进 Muon 优化器的论文：不硬压权重范数，改成投影掉径向分量，实测比 MuonH 省 15% token，训练 LLM 的可以看看。#Muon#MuonGS#优化器#LLM预训练aarXiv cs.AI@Athanasios Glentis et al. (3)SourceRead laterReadWorth followingUsefulFollow Muon