论文精选73°11:42训练内存回归：Megatron-Core禁止MLA吸收模式的原因及LAGA修复这篇论文解释了为什么Megatron-Core的MLA吸收模式在训练时会导致内存暴增，还给出了一个叫LAGA的修复方法，通信更省，速度和内存几乎没损失。#MLA#Megatron-Core#LAGA#DeepSeek-V3aarXiv: DeepSeek@Changzheng Ma原文稍后读已读值得跟进有用关注 MLA