精选理由
联邦学习团队终于有了应对数据漂移的实用方案——FlashbackCL直接替换Flashback即可,做边缘设备或持续学习部署的开发者值得一试。
联邦学习中客户端数据分布随时间漂移会导致模型遗忘,现有方法如Flashback假设分布静止,无法应对时间变化。FlashbackCL通过引入时间衰减标签计数、设备感知重放缓冲区和服务器端核心集筛选,在CIFAR-10上相对Flashback提升6.9%-10.0%,时间遗忘减少68%。在静态CIFAR-100上也提升3.5个点,表明类平衡重放对空间和时间异质性均有正则化效果。
AI 翻译 · 中文
联邦学习中客户端数据分布随时间漂移会导致模型遗忘,现有方法如Flashback假设分布静止,无法应对时间变化。FlashbackCL通过引入时间衰减标签计数、设备感知重放缓冲区和服务器端核心集筛选,在CIFAR-10上相对Flashback提升6.9%-10.0%,时间遗忘减少68%。在静态CIFAR-100上也提升3.5个点,表明类平衡重放对空间和时间异质性均有正则化效果。
Federated Learning (FL) of foundation and edge models increasingly targets deployments where client data distributions drift over time, yet existing forgetting-mitigation methods assume each client's distribution is stat…