vLLM 复现 DeepSeek 部署性能：decode 差距缩至 6% 以内

vLLM 团队宣布借助 Wide-EP 和 EPLB，在 DeepSeek 的 decode 配置下（DeepSeek-V4.1-Flash、131K 上下文、nextn=3），vLLM 在 GB200 上的吞吐量与 DeepInfer 公布结果的差距控制在 6% 以内（batch size 8–256）。在 AgentX 工作负载上，vLLM 在 GB300 上将 Pareto 前沿进一步推进，达到最高 1M tokens/s/GPU，按 DeepSeek 非高峰 API 定价计算可产生 $38.96/gpu/hr 的收入，P90 TPS 为 196。vLLM 还为 DeepSeek-V4.1-Flash 扩展了低延迟内核支持，单用户在 AgentX 上最高达 826 TPS。