FedAvg

concept · First seen 2026-05-25 · Last seen 2026-11-10 · 30 mentions

Overview

FedAvg 是联邦学习中最经典的聚合算法,由 McMahan 等人在 2016 年提出,核心思想是各参与方在本地训练模型后,按数据量加权平均上传的模型参数,从而在不共享原始数据的前提下完成协同建模。时至今日,FedAvg 仍是绝大多数联邦学习研究与应用的默认基线,近期的大量工作都围绕它的安全性、通信效率和场景适配展开改进。

FedAvg 的近期研究进展

围绕 FedAvg 基线的改进集中在三个方向:聚合策略优化、隐私与安全攻防、以及面向垂直场景的定制化。

  • 在聚合与模型选择层面,CovFedAvg 提出联邦模型选择新方法,Gas 任务宏平衡准确率提升至 89.84% 对原始的加权平均做了更细粒度的控制,在数据分布不均衡的任务上取得了明显提升。
  • 通信开销一直是 FedAvg 类方法在大规模部署中的瓶颈,CTP-FL:用共同轨迹梯度预测改进联邦学习通信效率 尝试通过梯度轨迹预测减少冗余上传轮次。
  • 安全性方面,联邦微调中的隐私泄露与后门投毒研究:FedAvg 攻击与 FLTrust 防御实测 实测了对经典聚合流程的后门投毒风险及 FLTrust 类信任机制的防御效果,而 PI-SME 路径积分代理模型提升联邦学习梯度反转攻击效果 则表明针对联邦训练过程的梯度反演攻击仍在持续增强。
  • FedAvg 的场景化落地与观察点

    场景适配是当前 FedAvg 相关工作的另一条主线。医疗方向出现了 OmniMed-FL:多模态联邦学习临床诊断框架;移动与车联场景有 智能汽车多模态联邦学习框架 FedQoS 发布;还有 首个面向婴儿运动分析的联邦学习框架 UA-FedAvg 将其引入儿童健康监测这类数据高度敏感的领域。这些工作普遍在标准 FedAvg 之上叠加多模态对齐、服务质量控制或个性化模块。

    综合来看,关于 FedAvg 的争议点主要集中在两点:一是简单的参数平均在非独立同分布数据和恶意参与方面前表现脆弱,投毒与梯度泄露攻击不断升级,迫使社区引入鲁棒聚合和差分隐私等机制,例如 隐私增强联邦学习框架通过异步聚合和本地差分扰动提升性能;二是随着大模型联邦微调兴起,原有按参数量加权的平均方式是否仍然最优受到质疑。值得关注的观察点包括:鲁棒聚合能否在保持精度的同时抵御新型攻击,以及 FedAvg 类算法在通信受限的真实产业环境中的可扩展性。

    Coverage

    10 on file