精选理由
这篇论文提出了FedKT-CSD,通过预训练自编码器生成合成数据,同时提供差分隐私保护,在异质性数据下性能不输无隐私方法。
单轮联邦学习(OSFL)通过单次通信降低开销,但客户端数据分布差异大时模型质量难保证,现有合成数据方法缺乏形式化隐私保证。FedKT-CSD框架利用公开预训练自编码器作为共享潜在空间,客户端单次前向传递后计算类别条件潜在统计并传输,服务器安全聚合并添加$(ε,δ)$-差分隐私噪声后解码合成数据集。在多个数据集和异质性设置下,FedKT-CSD在隐私约束下性能与非隐私基线相匹敌甚至更优,并支持大规模客户端。
AI 翻译 · 中文
单轮联邦学习(OSFL)通过单次通信降低开销,但客户端数据分布差异大时模型质量难保证,现有合成数据方法缺乏形式化隐私保证。FedKT-CSD框架利用公开预训练自编码器作为共享潜在空间,客户端单次前向传递后计算类别条件潜在统计并传输,服务器安全聚合并添加$(ε,δ)$-差分隐私噪声后解码合成数据集。在多个数据集和异质性设置下,FedKT-CSD在隐私约束下性能与非隐私基线相匹敌甚至更优,并支持大规模客户端。
One-shot federated learning (OSFL) addresses the communication overhead of federated learning by limiting training to a single round, but doing so without sacrificing model quality is non-trivial, particularly when clien…