事件专题 ·官方一手

MegaFlux:通过流水线专家复制实现抗偏斜MoE大内核

MegaFlux解决了MoE大内核中的路由偏斜问题,在8块NVIDIA B200 GPU上实现前向加速1.45倍,后向加速1.28倍。该技术通过流水线专家复制隐藏了56-76%的副本权重传输成本,在vLLM中应用于DeepSeek-V4-Pro预填充时获得1.13-1.26倍端到端加速。峰值性能分别达到2.14倍和2.64倍提升。

当前结论

清华团队推出MegaFlux,解决MoE模型GPU负载不均衡问题,在DeepSeek-V4-Pro上实测显著加速。

8 个信源41° AI 热度最后更新 2026/9/30 20:09:09

证据链

8 个信源
相关来源 2The Straits Times: Business
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。