#CMuon

共 1 条 · 7 天 0 条 · 30 天 0 条

DiT 1 Muon 1 训练优化 1

信息流里打上「CMuon」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月4日

CMuon：基于分块动量正交化加速并稳定Diffusion Transformer训练

写了个新优化器CMuon，训练扩散Transformer比AdamW快两倍多，675M模型200轮就跑到FID 1.18，厉害得很。

#CMuon #Muon #DiT #训练优化

arXiv cs.AI@Chuyan Chen 等 3 人原文