精选理由
V-Die 和 MOSAIC 通过侧立 DRAM 解决散热，吞吐比 HBM4 提升 82%，时延降低 32%，AI 内存瓶颈有望突破。
UNIST 提出 V-Die 方案将 DRAM 侧立放置，在 GPT-3 工作负载中达 540 tokens/s，比 HBM4 的 296 tokens/s 高 82.43%。该方案底边连接间距 20 微米，连接数量达 HBM4 的 4 倍，内存读取时间下降 37%。首 Token 时延降低 32% 至约 24 ms，液冷将堆叠温度维持在 45°C。东京大学 MOSAIC 方案采用正交堆叠与感应线圈互连，接口速率 4 Gbps/通道，容量可达 HBM4 级 2 倍；bump-MOSAIC 热导率达传统堆叠 3 倍，容量额外增加 30%。
AI 翻译 · 中文
UNIST 提出 V-Die 方案将 DRAM 侧立放置，在 GPT-3 工作负载中达 540 tokens/s，比 HBM4 的 296 tokens/s 高 82.43%。该方案底边连接间距 20 微米，连接数量达 HBM4 的 4 倍，内存读取时间下降 37%。首 Token 时延降低 32% 至约 24 ms，液冷将堆叠温度维持在 45°C。东京大学 MOSAIC 方案采用正交堆叠与感应线圈互连，接口速率 4 Gbps/通道，容量可达 HBM4 级 2 倍；bump-MOSAIC 热导率达传统堆叠 3 倍，容量额外增加 30%。
IT之家 7 月 11 日消息，科技媒体 Tom's Hardware 昨日（7 月 10 日）发布博文，报道称在 6 月召开的 IEEE / JSAP 超大规模集成电路技术研讨会上， 针对 AI 加速器的内存散热与带宽瓶颈，研究团队提出 V-Die 与 MOSAIC 两种 HBM 集成方案。 IT之家注：高带宽内存（HBM）是面向高性能计算与 AI 加速器的近封装内存技术，通过多层 DRAM 堆叠，并借助超宽总线与处理器近距离互连，以…