精选理由
Meta 砍一半计算单元、减三分之二显存,搞了个专攻推荐系统的定制 AMD 显卡,对大模型反而鸡肋。看看巨头的特殊需求。
SemiAnalysis 披露,Meta 定制的 AMD MI450 架构显卡仅含 4 个计算芯片(标准 MI455 有 8 个)。HBM4 显存使用 6 个 8-Hi 24GB 堆栈(标准为 12 个 12-Hi 36GB,总 432GB)。定制版计算单元为标准一半,显存容量为标准 1/3(144GB)。该设计旨在提升机架级 CPU:GPU 算力比例,改善 RecSys 推荐系统性能,但不利于 LLM 训练/推理。
原文 · IT之家
IT之家 7 月 22 日消息,研究机构 SemiAnalysis 北京时间 22 日表示, Meta 获得的基于 MI450 架构的定制 AMD Instinct 显卡加速器采用了与标准 MI455 具有显著区别的设计 。 ▲ 图源:SemiAnalysis 标准 Instinct MI455 拥有 8 个基于台积电 N2 制程的计算芯片,配套 12 个 12-Hi 36GB HBM4 内存堆栈(总容量 432GB);而 Meta 定制版本仅包括 4 个计算芯片,HBM4 内存降级至 6 个 8-Hi 24GB 堆栈。这意味着 Meta 定制版本仅具备 1/2 的计算单元和 1/3 显存容量 。 SemiAnalysis 认为,该定制版本旨在提升机架级系统中的 CPU:GPU 算力比例,改善内存带宽效费比,从而改进其在 Meta 的 RecSys 推荐系统上的表现;但 这一设计实际上不利于 LLM 训练 / 推理负载 。