联邦学习允许参与者在不共享数据的前提下协同训练模型,由于其很好地保护了用户数据隐私并打破数据孤岛,逐渐成为了国内外研究人员的关注热点。联邦集成蒸馏（Federated Distillation and Fusion,Fed DF）算法是联邦学习中一种现有的高效中心聚合算法,该算法以外源数据为蒸馏数据,对初步参数平均聚合得到的模型再蒸馏来提高模型的预测准确度。但在实际场景中外源数据难以获取,且在训练数据非独立同分布的情况下,各客户端训练所得模型差异较大,而该算法采用直接平均每个客户端模型的输出的方式获取教师软标签,造成教师软标签自身精度丢失,导致训练模型的精度提升有限。为解决以上问题,研究主要贡献如下:首先,为提高教师网络输出精度,在Fed DF算法的基础上,进一步提出了加权联邦集成蒸馏（Weighted Federated Ensemble Distillation,WFed ED）算法,该算法在客户端引入一个小型的判别网络,通过训练使其输出蒸馏数据在本地数据中对应的概率密度,并以此概率密度进行加权平均,获取准确度更高的教师软标签,来提升蒸馏效率和模型精度。其次,由于外源数据在实际场景中难以获取,在WFed ED算法中引入生成式对抗网络（Generative Adversarial Network,GAN）扩展得到WFed ED-WG算法,WFed ED-WG算法通过在客户端添加一个小型的GAN,将其中的生成器进行分布式训练再全局聚合来模拟全局数据分布以代替外源数据,同时针对分布式训练环境下GAN的不稳定性,提出了多种训练策略来保证训练过程中生成器生成的蒸馏数据的可用性。最后,实验采用CIFAR10和MNIST两种不同的数据集,并使用不同的模型,通过多种对比实验来验证算法效果。实验结果显示WFed ED算法在多种实验环境下均优于Fed DF算法和Federated Averaging（Fed Avg）算法。此外,实验还将教师网络输出准确率进行对比,验证了算法理论的有效性。