Chinese content迈特芯 3D-TPU 芯片 Mega188 点亮:600GB/s 带宽,5W 低功耗
迈特芯的 Mega188 芯片把 DRAM 直接堆在 TPU 上,600GB/s 带宽跑 Qwen3-8B 能到 80 TPS,功耗只要 5W。对比传统端侧芯片靠 LPDDR5x 挤带宽的方案,这个路线对想在终端设备本地跑模型的人挺有参考价值。
IT之家Source
迈特芯的 Mega188 芯片把 DRAM 直接堆在 TPU 上,600GB/s 带宽跑 Qwen3-8B 能到 80 TPS,功耗只要 5W。对比传统端侧芯片靠 LPDDR5x 挤带宽的方案,这个路线对想在终端设备本地跑模型的人挺有参考价值。