论文11:43MALT:轻量级曲率感知Muon优化器MALT优化器给Muon加了轻量对角预条件,在GPT-2上比Muon更快更好,内存几乎没增加,适合大模型预训练。#MALT#Muon#GPT-2#优化器aarXiv cs.LG@Tongle Wu 等 4 人原文稍后读已读值得跟进有用关注 MALT