02:01
官方账号阿里通义 Qwen@Alibaba_Qwen
官方账号阿里通义 Qwen@Alibaba_Qwen推荐理由：LightSeek的TokenSpeed今天支持Qwen3.8了，多节点下比TP16快三成多，跑2.4T大模型延迟更低。
LightSeek
共 1 条相关 AI 资讯
8月15日
02:01
LightSeek的推理引擎TokenSpeed已支持Qwen3.8（2.4T参数）的大规模多节点部署。作为Day-0开源推理引擎伙伴，LightSeek针对NVIDIA Blackwell做了跨节点DP/EP扩展优化。相比TP16，TokenSpeed的吞吐性能提升超过30%。DSpark投机解码和单CUDA图优化进一步降低了延迟。