联邦学习全局模型和个性化模型的现状与展望OA北大核心
【目的】联邦学习是目前的研究热点,本文从模型架构角度出发综述近年来联邦学习方法的研究和进展。【文献范围】本文采用关键词检索和引文二次检索的方法从国际计算机类期刊、会议中收集论文。【方法】在简单讨论联邦学习的定义、架构以及三种异质性问题的基础上,从模型架构角度出发,将联邦学习算法分为学习全局模型和学习个性化模型两大类,进一步讨论两大类别中的联邦学习方法所用数据集、对异构问题的解决以及方法优缺点。【结果】现有的联邦学习方法,可以学习泛化性能强大的全局模型,也可以学习个性化的局部模型。目前研究人员对数据异构问题的关注多于设备异构问题,在测试时所用数据集通常为常规机器学习数据集。【结论】联邦学习领域发展迅速,但仍存在异构问题研究不足、基准测试不成熟的问题,相信未来会有更多在真实场景中针对联邦异构问题的解决方案。
修涵文;李贺;曹荣强;万萌;李凯;王彦棡;
中国科学院计算机网络信息中心,北京100083 中国科学院大学,计算机科学与技术学院,北京100049
计算机与自动化
联邦学习个性化模型全局模型异构问题
《数据与计算发展前沿》 2024 (001)
P.113-124 / 12
国家重点研发计划“人工智能算力算法数据一体化开放服务平台建设”(2020AAA0105202)。
评论