综述论文“Federated Learning Systems: Vision, Hype and Reality for Data Privacy and Protection“

2019年12月3日上载到arXiv关于联邦学习的综述论文”A Survey on Federated Learning Systems: Vision, Hype and Reality for Data Privacy and Protection“。

摘要：联邦学习一直是在隐私限制下实现不同组织之间机器学习模型协作训练的热门研究领域。随着研究人员尝试使用不同的隐私保护方法来支持更多的机器学习模型，开发系统和基础架构要求简化各种联邦学习算法的开发。就像Caffe、PyTorch和Tensorflow之类深度学习系统促进深度学习算法发展一样，联邦学习系统也同样重要，并且面临着各种问题的挑战，例如不切实际的系统假设、可扩展性和效率。受联邦系统在其他领域（例如数据库和云计算）的启发，本文研究了联邦学习系统的现有特征。现有领域的联邦学习系统很少考虑其他领域联邦系统的两个重要特征，即异构性和自治性。此外，根据数据分区、机器学习模型、隐私机制、通信体系结构、联邦规模和联邦动机等六个不同方面对联合学习系统进行了彻底的分类。如案例研究所示，分类可以帮助设计联邦学习系统。最后，对现有的联邦学习系统进行了系统的比较，并提出了未来的研究机会和方向。

联邦数据库、联邦云和联邦学习：

联邦学习分类：

联邦学习方法比较：


注：LM - Linear Models. DM - Decision Trees. NN - Neural Networks. CM - Cryptographic Methods. DP - Differential Privacy. MA - Model Aggregation.

今后方向：

-（重新）发明联合学习模型

• 动态调度
• 多种隐私限制
• 智能益处
• 基准
• 系统架构
• 物联网