How-to

Mac Studio 选一台 512GB 还是两台 256GB:双机 RDMA 实测对比

Why we picked it

同价差 499 元,两台 256GB 用雷雳 5 连起来跑 GLM-5.3 快了近一倍,买 Mac Studio 跑大模型的看过来。

作者对比国行 Mac Studio 的两种配置:一台 M5 Ultra 512GB 统一内存版售价 172,999 元,两台 256GB 合计 173,498 元,只差 499 元。单机方案内存带宽 1.2TB/s,配置简单。双机方案用一根雷雳 5 线连接,通过 RDMA 减少数据传输开销并支持张量并行,有效带宽可达 2.2TB/s。实测 GLM-5.3 生成速度从每秒 40 tokens 提到 70,DeepSeek V4.1 Flash 从 60 提到 100,作者得出两台 256GB 更划算的结论。

Original · Lxfater

准备买 Mac Studio 了,一台512GB 还是两台 256GB 呢?

看了一下,国行同样选 M5 Ultra,36 核 CPU、80 核 GPU,每台配 1TB 硬盘,单机 172,999,两台合计 173,498,只贵 499,

单机的好处是省事,512GB 统一内存在一台机器里,内存带宽 1.2TB/s

但两台各有一颗 M5 Ultra,可以用一根雷雳 5 线连起来,靠 RDMA 减少传数据的开销,还可以张量并行计算。

而且,双机并行读模型时有效带宽能到 2.2TB/s,GLM-5.3 从每秒生成 40 提到70,DeepSeek V4.1 Flash 从 60 个提到 100 个

这么看来还是两个 256gb 好!!

不过我都没钱买,哈哈哈