Qwen3-Next 相关 AI 资讯 · AI 热点

7月3日

04:51

04:51

官方账号LMSYS Org (SGLang)@lmsysorg

精选

SGLang团队发布博客，介绍如何将基准测试、性能分析和内核优化知识转化为可执行的Agent技能。通过allreduce融合，Qwen3-Next吞吐量提升71.4%，TTFT从456ms降至168ms。路由token化去重使长上下文提示的TTFT降低29-49%。Spectral Progressive Diffusion实现2.32倍扩散去噪加速；KDA-Pilot在10个B200内核任务上获得1.13-2.75倍加速，3个PR已合并。LTX-2 VAE解码加速1.41倍，峰值内存节省9.7 GiB，所有改进均通过严格验证。

AI模型 SGLang Qwen3-Next 智能体性能优化推理模型

推荐理由：SGLang团队用Agent自动化优化推理管道，实测吞吐涨71%，TTFT砍半，还省了10GB显存，硬核经验值得看。