GB300 是英伟达 Blackwell 架构旗舰机架级 AI 算力系统(GB300 NVL72)的简称,由 72 颗 Blackwell Ultra GPU 通过 NVLink 互联组成单一超大算力节点,目前是大模型训练与推理部署领域性能最强的商用硬件平台之一,也是各大 AI 实验室和云厂商竞相采购的高端算力选项。
GB300 的近期进展
围绕 GB300 平台的软件生态正在快速成熟。vLLM 团队宣布实现 Kimi K3 在 NVIDIA GB300 NVL72 上 842 tokens/s 的解码速度(原文标题),随后又复现了 DeepSeek 的部署性能,将 decode 差距缩至 6% 以内(原文标题),说明开源推理框架在顶级硬件上的效率已接近厂商闭源方案。
在推理优化方面,SGLang 推出低延迟模式,并与 NVIDIA 和 AMD 合作开发(原文标题);英伟达官方也针对 Kimi K3 做了推理速度优化,提升 1.68 倍(原文标题)。硬件与软件协同调优成为 GB300 生态的主线之一。
值得注意的是,GB300 的下一代平台也开始露出成绩。Artificial Analysis 公布了 NVIDIA Vera Rubin NVL72 的首批基准测试结果(原文标题),意味着 Blackwell Ultra 之后的新一代机架级系统已进入评测阶段,算力平台的迭代节奏明显加快。
当前焦点与观察点
其一,超大 MoE 模型与机架级系统的适配成为竞争焦点。像 Meta 开源的 Muse Spark Open(816B 参数、1M 上下文、支持全模态输入,原文标题)这类大参数模型,只有在 GB300 NVL72 这类大显存、高互联带宽的系统上才能高效部署,模型规模与硬件形态互相绑定。
其二,开源与闭源推理性能的差距正在收窄。vLLM 复现 DeepSeek 的结果(6% 以内的 decode 差距)显示,社区框架借助 GB300 的硬件特性已能逼近官方优化水平,这对用户选择部署方案有实际参考价值。
其三,算力需求侧仍在扩张。马斯克在 SpaceX 2026 年三季度电话会上披露了 Starship 与 AI 算力规划(原文标题),头部公司对高端算力的采购意向依然强烈。
总体来看,GB300 目前处于性能巅峰但已面临换代的阶段:短期内它是大模型推理调优的主战场,中长期则要面对 Vera Rubin 等后继平台的接棒。对关注这一领域的读者而言,开源框架在 GB300 上的实际吞吐数据,比厂商标称参数更能反映真实性价比。