英伟达 Vera Rubin 量产太猛,把 TLC 闪存价格都抬回 21 美元了。想了解 AI 硬件怎么影响存储市场可以读读。
英伟达 Vera Rubin 平台量产提速带动 TLC NAND 现货市场收紧,512Gb 颗粒价格在 6 月跌破 21 美元后已回升至该价位。需求增长主要来自 Vera Rubin 的上下文内存扩展(CMX)技术,单台 2U CMX 服务器可搭载 600TB TLC 闪存,4 颗 BlueField-4 DPU 各管理 150TB 上下文内存。一个机柜组(pod)容量总计达 9.6PB,叠加企业级固态硬盘需求同步攀升,进一步挤压供应。英伟达当前多数 TLC NAND 已由长期合同锁定,但需求激增仍推高现货价格。美国银行同时辟谣 Vera Rubin Ultra 将减配 HBM 的传闻,称短期供应限制下的临时举措不会变为永久低容量产品。
英伟达 Vera Rubin 平台产能拉升推高 TLC NAND 现货价格,512Gb 回升至 21 美元
IT之家 8 月 16 日消息,英伟达 Vera Rubin 平台的量产扩张规模之大,如今已经传导到供应链中看似关联度不高的细分角落,比如 TLC NAND 现货市场。 但回过头来看,TLC 现货价格上涨完全在情理之中,尤其是英伟达为 Vera Rubin 平台搭载了上下文内存扩展(Context Memory eXtension,简称 CMX)技术之后。随着 Vera Rubin 平台量产提速,CMX 占用的 NAND 颗粒数量持续增加,再加上企业级固态硬盘需求同步攀升,TLC NAND 的供应正持续收紧。 512Gb TLC NAND 的现货价格在 6 月跌破 21 美元 (IT之家注:现汇率约合 141.9 元人民币) 后,目前已回升至该价位。此番价格再度走高由多重因素共同推动。 首先,为处理键值缓存(KV cache)—— 即 AI 模型注意力层在对输入提示词中的词汇建立语义关联时生成的缓存数据,英伟达在 Vera Rubin 平台中引入了 CMX 技术。 CMX 在高带宽内存(HBM)与传统后端网络存储之间搭建了一层中间存储架构,本质是一个超大容量的 TLC 闪存资源池。该资源池通过超高速 Spectrum-X 以太网接入 Rubin GPU 集群,由英伟达 BlueField-4 DPU 负责管控:这款 DPU 相当于 CMX 服务器的“智能大脑”,可实时处理 KV 缓存。 事实上,单台 2U 规格的 CMX 服务器可搭载 600TB TLC 闪存,内置的 4 颗 DPU 各自管理 150TB 上下文内存;而一个机柜组(pod)的总容量可达 9600TB,也就是 9.6PB。 其次,数据中心需要高密度、高性能的企业级固态硬盘(eSSD)来承载 AI 工作负载。随着 Vera Rubin 平台量产推进,这类企业级固态的需求也同步上涨。 当然需要说明的是,英伟达当前消耗的 TLC NAND 大多已通过长期供货合同锁定货源。即便如此,需求规模的激增依然带动现货市场供应收紧,这一涨价趋势会持续多久仍有待观察。 与此同时,美国银行近日对“Vera Rubin Ultra 版本将减配 HBM”的传闻予以辟谣。此前市场一直有传言称,英伟达可能会降低单颗 GPU 搭载的 HBM4E 容量,以保障利润空间。但美国银行认为,即便出现减配,也只是应对短期供应限制的临时举措,而非推出永久低容量的产品型号。