论文10:55Hyperball优化器并非免费午餐这篇论文把Hyperball优化器的机制拆开来看,发现它并不像传说中那样自动解决学习率调度问题,掌握好调度才是关键。#Hyperball#MuonH#MuonWD#深度学习优化aarXiv cs.LG@Yihao Xiao 等 8 人原文稍后读已读值得跟进有用关注 Hyperball
论文11:04Hyperball优化包装器提升大模型预训练效率Muon在大模型上加速效果缩水?Hyperball通过固定矩阵范数,让Muon在1.2B Qwen3上又快了20-30%,还更好调参。#Hyperball#Muon#Qwen3#优化器aarXiv cs.LG@Kaiyue Wen 等 5 人原文稍后读已读值得跟进有用关注 Hyperball