NVIDIA、AMD、Intel 共同加入 SGLang 开源推理联盟
三家卖卡的厂商头一回坐到一张桌子上,围着 SGLang 这套开源推理引擎转。v1.0 用 Rust 重写了关键路径,330 多家机构已经在用。做推理部署的工程师和企业选型的人都该看看,以后选卡得先看它接不接这套底座。
11 月 12 至 13 日在旧金山举办的 SGLang Summit 上,SGLang 推理引擎联盟正式成立,创始成员包括 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。联盟公告引用 Deloitte 数据称,2026 年推理将占全部 AI 算力的三分之二,成为各家硬件厂商争夺的关键战场。
治理结构上,各家成员一年开两次路线图会、出人员和测试资源,但技术拍板权和代码合入权仍留在 SGLang 维护者手中,避免单一硬件大厂主导项目方向。会上同时发布多项进展:SGLang v1.0 将关键路径用 Rust 重写,实现零开销调度、分层缓存和 PD 分离,已有 330 多家机构使用、217 个模型支持 Day-0;RadixArk 与 Intel 合作优化 Xeon CPU 和 GPU,与 AWS Annapurna Labs 合作的 SGLang-Neuron v0.1.0 开源公测,跑上 Trainium2 和 Trainium3。
硬件大厂加入开源推理底座的意义在于:SGLang 已运行在几十万张 GPU 上,谁不接入这套生态,自家硬件在生产环境中就缺乏竞争力。RadixArk 的强化学习框架 Miles 也更新到 v0.2,支持 NVIDIA、AMD 显卡并早期支持 Google TPU。对开发者而言,跨硬件统一的推理栈意味着部署迁移成本下降;对企业买家而言,选卡时可以更多参考同一套开源基准,而非各厂商的私有优化。
NVIDIA、AMD、Intel 这三家平时互相抢生意的卖卡厂商,居然共同加入同一个开源推理联盟了
11 月 12 到 13 日,旧金山开了场 SGLang Summit
你可能会纳闷,卖卡的几家平时恨不得把对方卡死,怎么突然凑一桌了?
因为算力消耗大头开始往推理侧转了
按联盟公告引用的 Deloitte 数据,2026 年推理要占全部 AI 算力的三分之二
SGLang 现在已经跑在几十万张 GPU 上,谁不接这套开源底座,谁的卡在生产环境里就不好卖
但最有意思的是治理结构里面的博弈: 各家一年开两次路线图会,出人出测试资源,技术拍板权和代码合入权还是留在 SGLang 维护者手里
除了成立联盟,会上还发了这几件事: 1. 联盟创始成员有 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk
2. RadixArk 和 Intel 合作优化 Xeon CPU、GPU 和加速器,代码直接合回 SGLang 开源上游 联合 AWS Annapurna Labs 做的 SGLang-Neuron v0.1.0 也开源公测,跑上了 Trainium2 和 Trainium3
3. SGLang 宣布了 v1.0,关键路径用 Rust 重写,做了零开销调度、分层缓存和 PD 分离 目前有 330 多家机构在用,217 个模型支持 Day-0
4. RadixArk 的强化学习框架 Miles 更新到 v0.2 支持 NVIDIA 和 AMD 显卡、早期支持 Google TPU,马上支持 AWS Trainium
5. 到场分享的有 Intel CEO 陈立武、OpenAI 的 Lilian Weng、Soumith Chintala、Perplexity CEO 还有 Cloudflare、LinkedIn、HeyGen 和 Meta 讲生产环境落地
以前大家总担心开源项目被单一硬件大厂绑架,现在反过来了,大厂围着开源项目打转
卖卡的、做云的、训模型的,全得排着队把自家硬件优化往同一套开源推理底座上交!!
你说牛不牛?
This report is categorized under AITOP's "Industry" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows and US-China foundation model benchmarks and commercialization comparison. Key entities and technical topics under continuous tracking include SGLang, NVIDIA, AMD, Intel.
Source attribution: curated from Lxfater (@lxfater).