17:53
小互@imxiaohu
小互@imxiaohu82°
推荐理由：谷歌把TPU拆成训练和推理两颗，8t管训练、8i管推理，延迟减半、性价比提升80%，搞AI的可以看看。
TPU 8i
共 1 条相关 AI 资讯
8月2日
17:53
Google发布第八代TPU，首次拆分为TPU 8t和TPU 8i两款芯片。TPU 8t面向训练，单组9600颗芯片提供121 exaflops算力和2 PB共享内存，峰值性能为上一代3倍。TPU 8i面向推理和后训练，通信密集任务延迟最多降低一半。据Google Cloud介绍，新系统在低延迟场景下性能每美元提升最高80%，可扩展至100万颗以上芯片。