一家初创公司用 LPDDR6 内存堆出 128TB 的 AI 服务器,不用英伟达 GPU,明年上市,想尝鲜的可以关注。
初创公司 Majestic Labs 发布 Prometheus AI 服务器,不使用 GPU,改用 Ignite AI 处理单元(AIU),将 Arm 核心与 RISC-V 向量和张量引擎结合。每台最多配 12 个 AIU,内存可选 8TB-128TB LPDDR6。标准 40U 机架可装 4 台,总功耗 120kW,采用液冷散热。官方称一台 Majestic 机柜内存容量相当于 25 个英伟达 NVL72 Vera Rubin 机柜,功耗更低。该服务器预计明年上市,兼容 PyTorch、vLLM 和 OpenAI Triton 框架。
初创公司 Majestic 推出 AI 服务器“普罗米修斯”,可选配 8TB-128TB LPDDR6 内存
IT之家 8 月 2 日消息,据科技媒体 TechRadar 今天报道,初创公司 Majestic Labs 最近宣布推出 Prometheus(普罗米修斯) AI 服务器。新品采用 AIU+LPDDR6 内存的组合,旨在挑战英伟达的 GPU+HBM 组合。 据报道,Prometheus 服务器并没有使用 GPU,而是使用 Ignite AI 处理单元(AIU), 将 Arm 核心与 RISC-V 向量和张量引擎结合起来 。每台 Prometheus 最多可选配 12 个 AIU, 以及 8TB-128TB LPDDR6 内存 。 同时,一台标准 40U 机架最多可安装 4 台 Prometheus 服务器,总功耗 120kW。采用液冷散热系统,而非传统空气冷却。官方宣称,一台 Majestic 机柜相当于 25 个英伟达 NVL72 Vera Rubin 机柜的内存容量,并且功耗相比英伟达更低。 此外,这款服务器预计将在明年上市,符合 OCP(开放计算项目)标准,兼容 PyTorch、vLLM 和 OpenAI Triton 框架。