b200

general · First seen 2026-05-29 · Last seen 2026-10-22 · 67 mentions

Overview

B200 是 NVIDIA 于 2024 年发布的 Blackwell 架构数据中心 GPU,目前仍是全球 AI 推理与训练算力供给的主力硬件之一。随着 NVIDIA 陆续推进下一代 Rubin 平台落地,B200 正处于从旗舰向主力量产机型过渡的阶段,其租赁价格、推理性能表现也成为衡量 AI 算力市场供需与成本趋势的重要参照。

B200 近期进展

  • Together 推理微调服务降价:B200 GPU 每小时 $11 降至 $9:Together AI 将 B200 算力租金从每小时 11 美元下调至 9 美元,降幅约 18%。B200 租赁价格走低,通常反映云厂商间算力供给趋于宽松,也间接降低中小团队使用 Blackwell 级硬件跑推理和微调的门槛。
  • NVIDIA HGX Rubin NVL8 将登陆 CoreWeave 云平台:CoreWeave 宣布将部署 NVIDIA 下一代 Rubin NVL8 系统。新平台进入主流云厂商,意味着 B200 所在的 Blackwell 世代开始面临直接的迭代压力,市场关注点逐步转向后继机型的性价比。
  • DeepSeek V4.1 Flash 登上 AA-AgentPerf:GB300 吞吐达每 MW 2.61 亿 tokens:Artificial Analysis 的 Agent 性能基准显示,基于更高端 GB300 的方案达到每兆瓦 2.61 亿 tokens 的吞吐。这类能效对比为 B200 与其后继机型之间划出了清晰的代际差异。
  • AMD MI355X 跑分出炉:Artificial Analysis 将其纳入 AA-AgentPerf 对比 NVIDIA:AMD MI355X 被纳入同一基准体系与 NVIDIA 方案同台对比,第三方独立评测正在成为采购方评估 B200 及其竞品的关键依据。
  • vLLM 数据:配对 4:8 稀疏让 Kimi-K2.5 推理提速 1.18 倍:vLLM 社区验证了配对 4:8 稀疏方法可带来 1.18 倍推理加速,说明软件层面的优化同样能显著释放 B200 硬件的推理潜力。
  • 当前焦点与观察点

    围绕 B200 的讨论正从单纯的硬件参数转向实际使用成本与效率。一方面,Together 的降价和竞品基准的加入表明,B200 的租金水平在供需变化下持续下探,用户端获得更便宜的算力;另一方面,Rubin 平台进入部署阶段后,Blackwell 世代设备的长期价值与其二手残值成为云厂商需要权衡的问题。

    对使用者而言,更实际的观察点在于软硬件协同:vLLM 等推理框架的稀疏化、量化优化,能让同一块 B200 跑出更高吞吐,从而摊薄单位 token 成本。接下来值得关注的指标包括:Rubin 系统上线后的实际租赁报价、AMD 等竞品在推理基准中的持续表现,以及各家模型在 B200 上的能效数据是否进一步拉开差距。

    Coverage

    10 on file
    b200 · AI 话题观测|AI热报