Google 发布 TPU 第 8 代新增 TPU 8tx 与 8i Max，HBM 最高 384GB、SRAM 768MB

Google 在此前于 Google I/O 推出的 TPU 8t 和 TPU 8i 基础上，新增两款第 8 代 TPU 变体：TPU 8tx 和 TPU 8i Max。TPU 8tx 内置 AMD 第 5 代 EPYC，采用 AMD 的内存加密技术，帮助需要数据不出外部环境的企业客户更方便地在云端训练模型。 TPU 8i Max 则针对 LLM 推理中生成 token 时的内存带宽瓶颈，将片上 SRAM 提升到 768MB，HBM 提升到 384GB，带宽达 17.2TB/s。Google 表示两款芯片借助 AlphaChip 用 AI 辅助设计布局，把原本需要数周的工作压缩到几小时。 TPU 8tx 主打机密计算场景，与 AWS Nitro Enclaves、Azure 机密虚拟机等方案竞争；8i Max 通过大容量 SRAM 缓解推理带宽瓶颈，与 NVIDIA H200、AMD MI300 等推理芯片对标，反映 Google 加速以自研芯片服务云端推理负载。