21:13
LMSYS Org (SGLang)@lmsysorg
LMSYS Org (SGLang)@lmsysorg71°
推荐理由：SGLang给DeepSeek模型加了两个新负载均衡器，跑DeepSeek V3/R1速度能快最多7%，而且不改精度，想加速推理的可以试试。
全部 AI 动态
AI 相关资讯全量信息流
6月27日
21:13
SGLang团队为DeepEP MoE引入两种调度时负载均衡器Waterfill和LPLB。Waterfill将共享专家工作分配到较轻的rank，在DeepSeek V3/R1上带来+1.48%到+4.66%的性能提升，V4 Flash吞吐量从49,253 tok/s增至51,677 tok/s。LPLB优化冗余路由专家副本的流量分配，在red16/red32配置下取得+0.84%到+7.34%的提升。两种方法均不改变模型语义，保持推理精度。
6月26日
13:00
13:00
量子位@鱼羊
推荐理由：想让你HuggingFace上的MoE模型微调更快？英伟达这个新库一行代码就能加速3.7倍，直接用。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
5月14日
00:33
00:33DeepSeek: GitHub 新仓库（资讯）
精选
推荐理由：DeepSeek开源MoE通信库
00:33
00:33DeepSeek: GitHub 新仓库（资讯）
精选
推荐理由：DeepSeek 开源了高效推理库
00:33
00:33DeepSeek: GitHub 新仓库（资讯）
精选
推荐理由：DeepSeek开源了让MoE训练更快的通信库