NVLink

general · First seen 2026-05-27 · Last seen 2026-10-29 · 73 mentions

Overview

NVLink 是英伟达推出的高速 GPU 互连总线技术,用于在服务器内部或多台服务器之间提供远超 PCIe 的显存共享与通信带宽,是当前大规模 AI 训练与推理集群的核心底座之一。随着 Rubin 平台落地和苹果等厂商入局 AI 服务器,围绕互连技术的生态竞争正在升温。

NVLink 的近期进展

  • NVIDIA HGX Rubin NVL8 将登陆 CoreWeave 云平台:云服务商 CoreWeave 宣布即将引入基于 NVLink 8 卡全互连(NVL8)形态的 HGX Rubin 平台,说明新一代 NVLink 互连正从发布走向实际商用部署。
  • 4 张 Tesla V100 组 NVLink 集群,AI 推理速度跑赢 2 台 DGX Spark:有实测显示,4 张通过 NVLink 互联的旧款 V100 在推理场景下速度超过 2 台 DGX Spark,反映出 NVLink 带来的显存池化优势即便在老硬件上依然明显。
  • NVIDIA 提出 NCCL M2N 集合通信原语,优化分布式张量重分片:英伟达在 NCCL 通信库中提出 M2N 原语,针对分布式张量并行中的重分片操作做优化,进一步压榨 NVLink 及网络互连在训练推理中的利用率。
  • 消息 称英伟达拟投资 AI 推理 ASIC 企业 d-Matrix:英伟达计划投资推理 ASIC 公司 d-Matrix 并在下一代推理芯片上合作,显示其在推理专用硬件方向也在补强生态。
  • 当前焦点与观察点

    竞争层面,苹果被多方报道正开发搭载 M8 Ultra 芯片的企业级 AI 服务器,高配版本集成 4 颗芯片,最早或于 2029 年与英伟达正面竞争。由于苹果采用统一内存架构而非 NVLink 这类传统互连方案,其能否在多卡带宽与扩展性上匹敌,将是关键看点。

    技术层面,绕开专用互连的路线同样在验证中。有研究显示,纯 PCIe 显卡跑 DeepSeek 推理时,通过补齐内核并重构通信,吞吐可提升近 7 倍,说明软件优化能在一定程度上弥补互连带宽差距。未来 NVLink 的价值评估,需要在训练、推理、以及通用 PCIe 方案之间分别衡量,而非简单地以带宽数字论优劣。

    Coverage

    10 on file