10:11
官方一手arXiv: DeepSeek@Megan Frisella, Shubham Tiwari, Andy Ruan, Yi Pan, Parker Gustafson, Mat Jacob, Gilbert Bernstein, Stephanie Wang
精选
推荐理由：Piper 解决了分布式训练中策略与实现绑定的痛点，做大规模模型训练或并行策略研究的开发者可以直接用这套框架灵活组合新策略，省去手动调优的麻烦。
中间表示
共 1 条相关 AI 资讯
6月10日
10:11
Piper 是一种用户可控的分布式训练系统，通过将训练策略与运行时实现解耦，解决了现有系统难以适应新策略或集成先进策略的问题。用户只需通过少量模型注释和调度指令声明训练策略，系统自动编译为设备执行计划。Piper 使用统一中间表示（IR）表示所有计算和通信，支持数据、流水线、专家并行及 ZeRO 等优化。实验表明，Piper 在常见策略上保持性能，同时通过联合调度计算和通信（如 DeepSeek-V3 的 DualPipe）实现额外性能与内存效率提升。