4 张 Tesla V100 组 NVLink 集群，AI 推理速度跑赢 2 台 DGX Spark

YouTube 频道 Jun Yamog 于 10 月 12 日发布测试，将 4 张 2017 年推出的 Tesla V100 安装在 NVLink 载板上组建推理集群。在 4-bit 量化的 Qwen3.8-Flash-Next 模型测试中，该集群短提示 Token 生成达到 100.6 tok/s，比 2 台 DGX Spark 快 121%，比 M5 Ultra 的 44.5 tok/s 快一倍以上。长提示处理速度较 M5 Ultra 快 230%，较 DGX Spark 集群快 40%。NVLink 载板提供 300GB/s 带宽，测试者改装 A100 散热器应对每颗 V100 约 300W 的功耗。