AI模型精选

闪迪专利:NAND闪存堆叠在计算芯片下方破解存储瓶颈

闪迪新专利:将 NAND 闪存堆叠在计算芯片下方,破解存储瓶颈

精选理由

闪迪把海量NAND闪存直接堆到GPU底下,单堆容量冲到4TB,比HBM大几十倍,延迟还低,存储瓶颈的新解法来了。

AI 摘要

闪迪新专利(US 12,430,274 B2)提出将搭载CMOS键合阵列的NAND闪存存储裸片堆叠在主计算裸片下方,主计算裸片可为AI加速器或GPU。与HBM DRAM共存于同一中介层,HBM负责低延迟高优先任务,NAND闪存承担大容量读写。单组HBF堆叠容量最高4TB,而HBM单堆仅32~64GB。宽通道互联降低传输延迟、硬件成本和功耗。该架构尚在专利阶段,量产面临功耗和制造成本挑战。

AI 翻译 · 中文

闪迪新专利(US 12,430,274 B2)提出将搭载CMOS键合阵列的NAND闪存存储裸片堆叠在主计算裸片下方,主计算裸片可为AI加速器或GPU。与HBM DRAM共存于同一中介层,HBM负责低延迟高优先任务,NAND闪存承担大容量读写。单组HBF堆叠容量最高4TB,而HBM单堆仅32~64GB。宽通道互联降低传输延迟、硬件成本和功耗。该架构尚在专利阶段,量产面临功耗和制造成本挑战。

IT之家IT之家 6 月 22 日消息,闪迪正在研发更多创新方案以解决存储容量受限问题,例如在芯片内部堆叠 NAND 闪存。 IT之家注意到,人工智能行业飞速发展,算力需求同步激增,各类性能瓶颈随之暴露,这倒逼 DRAM 与 NAND 闪存厂商跳出固有思维、探索突破性技术路线。 过去,芯片厂商只需推出全新存储技术就能满足需求,彼时 DRAM 是核心存储器件。但如今研发成本攀升、工艺良率存在短板、芯片功耗持续走高,行业不得不转向其他可行技术方案。