行业精选

前英特尔 CEO 基辛格:HBM 位密度低、散热难,是"糟糕的内存"

前英特尔 CEO 基辛格称 HBM 是“糟糕的内存”

精选理由

前 Intel 掌门基辛格直接开喷 HBM:位密度低、30 瓦就发烫、芯片边缘接不下几堆,关心 AI 算力硬件的可以看看他的具体论据。

前英特尔 CEO 帕特·基辛格在接受 a16z 专访时称 HBM 是"糟糕的内存",只是当前能实现的最佳方案。他指出 HBM 堆叠中的 DRAM 裸片需通过大量硅通孔(TSV)连接,单颗裸片可容纳的存储单元因此减少,位密度偏低。散热方面,HBM3/3E 总线宽度为 1,024 位,HBM4 提升至 2,048 位;韩国科学技术院的分析显示,HBM 功耗超过约 30 瓦时,PHY 接口自身发热会成为内存热应力的主要来源。他还提出"海岸线带宽"问题:芯片边缘可连接 HBM 的物理周长有限,限制了内存堆叠数量,对内存计算密集型的 AI 工作负载构成瓶颈。

原文 · IT之家

前英特尔 CEO 基辛格称 HBM 是“糟糕的内存”

IT之家 10 月 14 日消息,科技媒体 Wccftech 昨日(10 月 13 日)发布博文,报道称前英特尔首席执行官帕特 · 基辛格(Pat Gelsinger)再次批评高带宽内存(HBM)存在位密度低、散热与“海岸线带宽”受限等问题, 称其为“糟糕的内存”。 IT之家注:海岸线带宽(Shoreline Bandwidth)是指计算芯片边缘可用于连接 HBM 的物理周长资源。由于 HBM 接口需要占用芯片边缘大量面积,可布置的内存堆叠数量受到限制,从而形成带宽扩展瓶颈。 基辛格在接受 a16Z 的专访时,批评高带宽内存 (HBM) 解决方案: HBM 内存简直糟糕透了。 这只是我们目前能实现的最佳方案 …… 但它真的太差劲了。你知道,它的位密度非常低。带宽受限,功耗、散热等等问题也让我很头疼。DRAM 内存不喜欢高温。所有数据都集中在一个地方…… 对于人工智能这种内存计算密集型工作负载来说,HBM 内存简直是灾难性的。 基辛格指出,HBM 的位密度较低,且数据集中布局会带来功耗与散热压力,对 AI 这类内存与计算高度耦合的工作负载而言,该架构存在明显短板。 散热方面,HBM3/3E 总线宽度为 1,024 位,HBM4 提升至 2,048 位,需要大量并行连接与微凸点。韩国科学技术院的分析显示,当 HBM 功耗超过约 30 瓦时,GPU 或 ASIC 与 HBM 堆栈之间的物理层接口(PHY)自身发热会成为内存热应力的主要来源。 位密度方面,HBM 堆叠中的 DRAM 裸片需通过大量硅通孔(TSV)连接。该结构减少单颗裸片可容纳的存储单元数量,导致单颗 DRAM 裸片位密度较低;但整个堆叠在每平方毫米层面仍可提供更高累计密度。 图源:WikiMedia