09:50arXiv cs.LG@María Gragera Garcés, Lirandë Pira精选该论文提出量子环全归约(quantum ring all-reduce),利用预共享纠缠和超密编码,将逐链路在线通信量降低至最优因子2倍。协议通过验证纠缠实现可组合的ε安全聚合,仅需2倍GHZ副本开销,提供经典协议无法实现的信息论隐私。在梯度冲突检测中,对于GapIP_τ问题,量子优势在边际参数上呈二次方改进:需Õ(τ⁻¹ log P)量子比特 vs Õ(min(τ⁻², P))经典比特。对于TieAudit_ε问题,量子优势呈指数级分离:仅需O(ε⁻² log P)量子比特,而经典需Ω(√P)比特。论文ring all-reduce量子通信分布式训练隐私聚合梯度冲突检测推荐理由:这篇论文讲怎么用量子通信让分布式训练既省带宽又有信息论隐私保护,比经典协议通信量减半,梯度检测上还有指数级优势。原文
09:44arXiv cs.AI@Lorenzo Sani, Zeyu Cao, Meghdad Kurmanji, Alex Iacob, Andrej Jovanovic, Yan Gao, Wanru Zhao, Nicholas D. Lane传统分布式大模型训练需要每个数据中心持有完整模型副本,导致巨大内存和通信开销。FoMoE通过将专家层分散到不同节点,将通信开销降低至传统方法的1.42倍,相比DDP下降45.44倍。其跳词机制在实际训练中实现了1.4倍的吞吐量提升。系统建模显示,FoMoE在100B参数规模下仍能保持通信和内存优势。论文FoMoEMoE分布式训练通信优化弱连接数据中心推荐理由:FoMoE把MoE的专家拆开放不同数据中心,省通信还提速,适合多数据中心联合训练大模型。原文
10:11arXiv: DeepSeek@Megan Frisella, Shubham Tiwari, Andy Ruan, Yi Pan, Parker Gustafson, Mat Jacob, Gilbert Bernstein, Stephanie Wang精选Piper 是一种用户可控的分布式训练系统,通过将训练策略与运行时实现解耦,解决了现有系统难以适应新策略或集成先进策略的问题。用户只需通过少量模型注释和调度指令声明训练策略,系统自动编译为设备执行计划。Piper 使用统一中间表示(IR)表示所有计算和通信,支持数据、流水线、专家并行及 ZeRO 等优化。实验表明,Piper 在常见策略上保持性能,同时通过联合调度计算和通信(如 DeepSeek-V3 的 DualPipe)实现额外性能与内存效率提升。论文分布式训练并行策略中间表示ZeRODeepSeek-V3推荐理由:Piper 解决了分布式训练中策略与实现绑定的痛点,做大规模模型训练或并行策略研究的开发者可以直接用这套框架灵活组合新策略,省去手动调优的麻烦。原文
12:12arXiv cs.LG@Daniel Kuznetsov, Ziqi Wang联邦学习面临客户端贡献不均和动态变化的问题,传统固定权重聚合方法导致学习偏差和不稳定。本文提出轨迹Shapley值(TSV),一种基于验证集和时序一致性的贡献度量,能评估每个客户端对全局模型优化轨迹的影响。基于TSV,作者设计了FedTSV自适应聚合方法,将每轮评估转化为动态客户端权重,实时应对异构和对抗性参与。在基准数据集上的实验表明,FedTSV加速收敛、提升鲁棒性,并实现更公平的贡献评估,为公平感知联邦优化提供了理论基础。论文联邦学习公平性Shapley值自适应聚合分布式训练推荐理由:联邦学习团队终于有了一个能动态衡量客户端贡献的方法——FedTSV解决了固定权重带来的不公平和训练不稳定问题,做分布式模型训练的开发者可以直接参考实验效果。原文
14:39arXiv cs.LG@Ruitao Liu, Xinyang Tian, Shuo Chen, Tingrui Zhang, Guang Yang, Alan Zhao, Wei Xu精选论文提出 RRFP(Runtime-Readiness-First Pipeline),一种基于任务就绪状态的流水线并行运行时系统。传统流水线并行依赖静态或自适应生成的调度顺序,当实际任务就绪状态与预设顺序不一致时,会导致阶段错位和空闲气泡。RRFP 将调度视为非绑定的提示顺序,优先执行已就绪的任务,结合消息驱动的异步通信和轻量级张量并行协调。在 128 GPU 上测试,RRFP 在纯语言和多模态任务上分别实现最高 1.77 倍和 2.77 倍加速,并优于现有外部系统。论文流水线并行分布式训练大模型运行时优化RRFP推荐理由:大模型训练中流水线并行的空闲气泡问题一直困扰着分布式训练团队,RRFP 用就绪优先的思路直接提升 GPU 利用率,做大规模训练的工程师值得关注这个新方案。原文
10:36arXiv cs.LG@Yishun Lu, Junhao Zhang, Zeyu Yang, Wes Armour精选72°二阶优化方法能提升大模型训练效率,但计算和存储开销大。Asteria 是一个运行时系统,通过将优化器状态动态分配到 GPU、CPU 和 NVMe 存储,并异步执行逆根计算,解决了这一瓶颈。在单 GPU 的 DGX Spark 上,它支持 1B 参数模型的二阶训练;在多节点 GH200 系统上,它降低了 7B 模型的开销和延迟,加速收敛。研究表明,二阶优化实用化的关键在于运行时层面的状态管理和同步。论文大模型训练二阶优化运行时系统分布式训练Asteria推荐理由:Asteria 让二阶优化从理论走向实用,做大模型训练的团队可以大幅降低显存压力,同时保持收敛速度优势,值得关注其开源进展。原文