FedAvg 是联邦学习中最经典的聚合算法,由 McMahan 等人在 2016 年提出,核心思想是各参与方在本地训练模型后,按数据量加权平均上传的模型参数,从而在不共享原始数据的前提下完成协同建模。时至今日,FedAvg 仍是绝大多数联邦学习研究与应用的默认基线,近期的大量工作都围绕它的安全性、通信效率和场景适配展开改进。
FedAvg 的近期研究进展
围绕 FedAvg 基线的改进集中在三个方向:聚合策略优化、隐私与安全攻防、以及面向垂直场景的定制化。
FedAvg 的场景化落地与观察点
场景适配是当前 FedAvg 相关工作的另一条主线。医疗方向出现了 OmniMed-FL:多模态联邦学习临床诊断框架;移动与车联场景有 智能汽车多模态联邦学习框架 FedQoS 发布;还有 首个面向婴儿运动分析的联邦学习框架 UA-FedAvg 将其引入儿童健康监测这类数据高度敏感的领域。这些工作普遍在标准 FedAvg 之上叠加多模态对齐、服务质量控制或个性化模块。
综合来看,关于 FedAvg 的争议点主要集中在两点:一是简单的参数平均在非独立同分布数据和恶意参与方面前表现脆弱,投毒与梯度泄露攻击不断升级,迫使社区引入鲁棒聚合和差分隐私等机制,例如 隐私增强联邦学习框架通过异步聚合和本地差分扰动提升性能;二是随着大模型联邦微调兴起,原有按参数量加权的平均方式是否仍然最优受到质疑。值得关注的观察点包括:鲁棒聚合能否在保持精度的同时抵御新型攻击,以及 FedAvg 类算法在通信受限的真实产业环境中的可扩展性。