Trainium2 是亚马逊 AWS 推出的第二代自研 AI 训练芯片,主要面向大规模大语言模型与生成式 AI 的训练和推理任务,是英伟达 GPU 之外的另一条重要算力路线。随着 Anthropic 等头部模型公司大量采用 Trainium2 构建训练集群,这款芯片正在从 AWS 内部项目逐步演变为开源生态可用的公开算力选择。
Trainium2 近期进展
Trainium2 最受关注的落地案例来自 Anthropic 的深度绑定。据报道,Anthropic 已将 AWS 自研芯片作为其核心算力来源之一,这也是 AWS 长期投资关系中的重要一环;同期英伟达正洽谈为 Anthropic 投资至多 100 亿美元,反映出芯片厂商与模型公司之间的算力竞合正在加剧(冲刺史上最大 IPO:英伟达正洽谈为 Anthropic 投资至多 100 亿美元、Anthropic 为何牛逼:创始团队、技术武器与营收爆炸)。
在生态开放度上,Trainium2 也取得了实质进展。Hugging Face 推出了 TorchNeuron 集成,让平台上数以万计的开源模型可以更方便地迁移到 Trainium 系列芯片上运行,降低了开发者从 CUDA 生态切换的门槛(Hugging Face 推出 TorchNeuron 集成,HF 模型可更方便地跑在 AWS Trainium 上)。
实际训练与推理案例也在增多。i14 在 AWS Trainium2 上使用原生 PyTorch 训练并部署了线性注意力模型 Laplace 3B,展示了这套栈在非主流架构上的兼容性;语音公司 Deepgram 则将其 Nova-3 模型迁移至 Trainium2 优化大规模推理成本(i14 在 AWS Trainium2 上用原生 PyTorch 训练并部署线性注意力模型 Laplace 3B、Deepgram 将 Nova-3 语音模型迁移至 AWS Trainium2 优化推理)。
Trainium2 的当前焦点与观察点
目前围绕 Trainium2 的讨论集中在三个方向:一是性价比,AWS 宣称其在部分工作负载上比同级 GPU 方案更具成本优势,但独立第三方基准仍相对有限;二是软件生态,原生 PyTorch 支持和 Hugging Face 集成正在补齐易用性短板,但与成熟多年的 CUDA 生态相比仍有差距;三是供应链格局,随着英伟达向 Anthropic 等公司伸出投资与算力的橄榄枝,Trainium2 能否在顶级实验室的下一代训练集群中保持份额,将是观察 AWS 自研芯片竞争力的关键指标。对开发者而言,Trainium2 已具备可用的工程基础,适合在推理成本敏感或愿意投入适配的场景中评估选用。