精选理由
HBM之父金正浩预测未来十年AI内存技术路线:HBF将取代HBM,HBS快到离谱,一篇讲清为什么GPU不是王道。
韩国KAIST教授金正浩指出,AI计算中GPU利用率仅为10%-30%,瓶颈在于内存数据传输。他认为AI正从训练转向推理时代,内存能力将直接决定性能。他预测HBF(高带宽闪存)技术将在10年后取代HBM成为主流,市场需求超过HBM。远期还将出现基于SRAM的HBS,读写速度比DRAM快1000倍,容量可达1600GB。未来AI计算机将形成HBM、HBF、HBS三层堆叠的100层3D架构。
AI 翻译 · 中文
韩国KAIST教授金正浩指出,AI计算中GPU利用率仅为10%-30%,瓶颈在于内存数据传输。他认为AI正从训练转向推理时代,内存能力将直接决定性能。他预测HBF(高带宽闪存)技术将在10年后取代HBM成为主流,市场需求超过HBM。远期还将出现基于SRAM的HBS,读写速度比DRAM快1000倍,容量可达1600GB。未来AI计算机将形成HBM、HBF、HBS三层堆叠的100层3D架构。
IT之家 7 月 6 日消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受《东亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。 金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利用率远低于理论水平。AI 每次输出结果,都必须先从 HBM 读取数据、传到 GPU 进行计算,再将结果写回内存。就算部署 100 万块 GPU,真正用于计算的时间也只有 10%-30%。 并且过去的 AI…