09:55IT之家（博客/媒体）
精选
推荐理由：V-Die 和 MOSAIC 通过侧立 DRAM 解决散热，吞吐比 HBM4 提升 82%，时延降低 32%，AI 内存瓶颈有望突破。
东京大学
共 1 条相关 AI 资讯
7月11日
09:55
UNIST 提出 V-Die 方案将 DRAM 侧立放置，在 GPT-3 工作负载中达 540 tokens/s，比 HBM4 的 296 tokens/s 高 82.43%。该方案底边连接间距 20 微米，连接数量达 HBM4 的 4 倍，内存读取时间下降 37%。首 Token 时延降低 32% 至约 24 ms，液冷将堆叠温度维持在 45°C。东京大学 MOSAIC 方案采用正交堆叠与感应线圈互连，接口速率 4 Gbps/通道，容量可达 HBM4 级 2 倍；bump-MOSAIC 热导率达传统堆叠 3 倍，容量额外增加 30%。