NVIDIA、AMD、Intel 共同加入 SGLang 开源推理联盟
11 月 12 至 13 日在旧金山举办的 SGLang Summit 上,SGLang 推理引擎联盟正式成立,创始成员包括 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。联盟公告引用 Deloitte 数据称,2026 年推理将占全部 AI 算力的三分之二,成为各家硬件厂商争夺的关键战场。 治理结构上,各家成员一年开两次路线图会、出人员和测试资源,但技术拍板权和代码合入权仍留在 SGLang 维护者手中,避免单一硬件大厂主导项目方向。会上同时发布多项进展:SGLang v1.0 将关键路径用 Rust 重写,实现零开销调度、分层缓存和 PD 分离,已有 330 多家机构使用、217 个模型支持 Day-0;RadixArk 与 Intel 合作优化 Xeon CPU 和 GPU,与 AWS Annapurna Labs 合作的 SGLang-Neuron v0.1.0 开源公测,跑上 Trainium2 和 Trainium3。 硬件大厂加入开源推理底座的意义在于:SGLang 已运行在几十万张 GPU 上,谁不接入这套生态,自家硬件在生产环境中就缺乏竞争力。RadixArk 的强化学习框架 Miles 也更新到 v0.2,支持 NVIDIA、AMD 显卡并早期支持 Google TPU。对开发者而言,跨硬件统一的推理栈意味着部署迁移成本下降;对企业买家而言,选卡时可以更多参考同一套开源基准,而非各厂商的私有优化。
Current read
三家卖卡的厂商头一回坐到一张桌子上,围着 SGLang 这套开源推理引擎转。v1.0 用 Rust 重写了关键路径,330 多家机构已经在用。做推理部署的工程师和企业选型的人都该看看,以后选卡得先看它接不接这套底座。
Evidence
11 sourcesConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.