128tb

general · First seen 2026-08-02 · Last seen 2026-11-11 · 8 mentions

Overview

128TB 指的是单台 AI 服务器可配置的系统内存容量上限,目前主要出现在以 LPDDR6 为代表的大容量内存方案中,被视为衡量 AI 推理服务器承载超大模型能力的一个关键指标。随着大模型参数规模持续膨胀,传统几十 GB 到几 TB 的内存配置已难以满足单机部署需求,128TB 级别的内存容量正在成为高端 AI 服务器的竞争焦点。

128TB 内存配置的最新进展

  • Majestic 推出 Prometheus AI 服务器,可选 8TB-128TB LPDDR6 内存:Majestic 发布的 Prometheus AI 服务器提供 8TB 至 128TB 的 LPDDR6 内存可选配置,将单机内存容量推到一个新量级。这类大容量低功耗内存方案的思路是减少对 HBM 的依赖,以更低的成本和功耗支撑超大参数模型的本地推理,128TB 档位即面向千亿级参数模型的完整驻留场景。
  • 中国电信联合长飞、中兴完成千公里空芯光纤双向实时传输验证 与 中国电信、长飞、中兴完成 1007.48 公里空芯光纤实时传输验证:虽然与服务器内存无直接关联,但 1007.48 公里的空芯光纤实时传输验证反映出国内在 AI 算力集群互联层面的同步推进——单机 128TB 内存与低延迟长距光网络共同构成了未来大规模 AI 基础设施的两侧拼图。
  • 三星电子:V10 BV-NAND 有望支持未来 PCIe Gen7 固态硬盘:三星披露的 V10 BV-NAND 闪存将支持未来 PCIe Gen7 固态硬盘,意味着存储侧带宽也在跟进,为大内存与大容量分层存储结合的 AI 服务器架构提供配套。
  • 当前焦点与观察点

    围绕 128TB 级内存的讨论,核心在于技术路线之争:LPDDR6 大容量方案强调成本与能效,而 HBM 方案强调带宽,两者在推理场景下的取舍尚无定论。其次是生态成熟度——芯片平台、操作系统对超大物理内存的支持、以及软件栈能否有效利用 128TB 容量,都是落地前的实际门槛。观察点可以放在:Prometheus 类产品的实际交付与客户采用情况、LPDDR6 的量产进度,以及内存容量与存储带宽的匹配是否会催生新的服务器架构标准。总体来看,128TB 目前更多是头部厂商展示技术上限的信号,大规模普及仍取决于大模型推理需求的实际增长节奏。

    Coverage

    5 on file