#expert parallelism

6 stories · 0 in 7 days · 0 in 30 days

Stories, products and papers tagged "expert parallelism", newest first.

Sep 29

MoE 推理部署的人可以看看，DeepSeek-V4 和 GLM-5.3 上实测 TTFT 快了近一半，思路是让专家计算别干等慢副本。

arXiv: DeepSeek@Jin Qin et al. (15)Source

Aug 14

如果你在做MoE推理，TEMPO这个调度器在内存/算力瓶颈混合时能比常规方案快15.5%；不过DeepSeek-V3那种通信瓶颈场景它不灵。

arXiv: DeepSeek@Jie Li et al. (8)Source

Jul 31

Moonshot AI公开了Kimi K3的MoonEP等设计，但真正难抄的是工程调优经验，这决定了开源模型能不能打。

Primary sourcepandaily@[email protected] (Pandaily)Source

Jul 30

Moonshot AI 开源了 MoonEP，一个专门加速 MoE 训练中专家并行通信的库，比现有方案更均衡高效，做分布式训练的同学可以试试。

Primary sourcemarktechpost@Michal SutterSource

May 21

PapersSelected09:46

做 MoE 系统优化或互联设计的工程师，这篇论文用实测数据推翻了行业两个核心假设，直接告诉你路由不均衡是模型固有、模拟测试不可信，看完能避免在错误方向上投入精力。

arXiv cs.AI@Bole Ma et al. (4)Source

May 14

Models US vs ChinaOfficialSelected00:33

DeepSeek开源了让MoE训练更快的通信库

Primary sourceDeepSeek: GitHub 新仓库Source