DeepSpeed 是微软开源的大模型训练与推理优化框架,以 ZeRO 显存优化技术闻名,目前仍是超大规模模型分布式训练的主流方案之一。近期,DeepSpeed 团队的动向主要集中在 PyTorchCon 北美 2026 大会上,展示了其在 ZeRO 之外的并行化技术布局。
DeepSpeed 近期进展
当前焦点与观察点
DeepSpeed 目前最大的看点在于「去 ZeRO 中心化」。过去几年 ZeRO 几乎成了该框架的代名词,但随着 Megatron-LM、FSDP 等方案的成熟,单纯依靠显存切分已不足以形成差异化。AutoTP、AutoSP、AutoEP 代表了一种新思路:让框架自动选择并组合多种并行策略,而非要求用户手工调参。
另一个观察点是它与 PyTorch 原生方案的竞合关系。PyTorch 自带的 FSDP2 和 torch.compile 正在覆盖部分 DeepSpeed 的使用场景,DeepSpeed 选择在 PyTorchCon 上高调分享进展,说明其定位正转向与 PyTorch 生态互补而非对立。对于需要训练超大模型(尤其是 MoE 架构,涉及专家并行)的团队,AutoEP 等自动化能力值得持续跟踪。