论文09:44Generic TB-Coverage:MoE语言模型的覆盖感知专家剪枝这篇论文用两个通用语料就能做好MoE剪枝,在Qwen和DeepSeek模型上准确率更高,尤其适合需要极限压缩的场景。#MoE#专家剪枝#Qwen1.5-MoE#DeepSeek-MoE-16BaarXiv: DeepSeek@Yongqin Zeng 等 7 人原文稍后读已读值得跟进有用关注 MoE
论文09:50一次性MoE专家剪枝的评分:统一公式与选择原则这篇论文把MoE剪枝的各种评分方法统一了,还提出MAN和MSAN两个新标准,在多个模型和基准上表现更稳定,适合做模型压缩的人参考。#MoE#专家剪枝#语言模型#基准测试aarXiv cs.LG@Zongfang Liu 等 5 人原文稍后读已读值得跟进有用关注 MoE