无线通信网络中的联邦学习架构与算法设计

来源 :浙江大学 | 被引量 : 0次 | 上传用户:dingsiwei2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据时代背景下,机器学习(Machine Learning,ML)的兴起推动了人工智能技术的进一步发展、普及和应用。而随着数据量的指数级增长、神经网络(Neural Network,NN)规模的膨胀及用户对数据隐私重视程度的与日俱增,传统集中式学习框架的弊端逐渐显现,致使其无法满足实际场景对于算力、运力等多方面的需求。联邦学习(Federated Learning,FL)的应运而生则有效缓解了上述困境,其在充分保障用户数据隐私的前提下,可通过促使多方设备协同合作高效地完成相应学习任务下模型的训练过程。但与此同时,一方面,受用户偏好等因素影响,FL系统内数据往往以非独立同分布(Non-Independent and Identical Distribution,Non-IID)形式散布于各用户设备(User Equipment,UE)上,致使其训练所得全局模型易出现收敛偏差;另一方面,考虑到系统内有限频谱资源与大量用户群体之间的矛盾,在无线通信网络中部署大规模FL系统将面临巨大的通信压力,使其难以被实际应用。基于上述背景,本文针对无线通信网络中FL系统所面临的各种挑战,就其架构与算法设计开展研究,我们的主要研究内容如下:首先,我们结合FL系统中的Non-IID问题及通信问题,设计了一种由宏基站(Macro Base Station,MBS)-小基站(Small Base Station,SBS)-UE组成的分级FL架构,其通过引入簇内局部模型融合与小区内全局模型融合两级模型融合机制可大大减少各用户与中心端MBS频繁通信的需求。同时,该架构通过联合优化系统内模型训练的学习增益与通信时延,可大幅提升FL系统的整体训练效率。其次,针对分级FL系统部分遗留问题,我们设计了一种基于强化学习(Reinforce-ment Learning,RL)的模型融合策略,用以解决FL系统内联合训练域与目标数据域不匹配的问题。在对相关问题进行数学建模后,通过引入深度确定性策略梯度(Deep Deterministic Policy Gradient,DDPG)网络,并结合FL系统特性对RL训练过程中各项参数进行合理设计,我们提出了由UE端和基站(Base Station,BS)端组成的两级学习架构,用以有效提升训练所得全局模型在目标数据域上的泛化能力。最后,考虑到FL系统内的异构性,我们设计了一种基于异步更新的FL系统和其相应的训练机制。为解决异步式系统中常见的信息过时问题(Staleness Issue),一方面,我们通过在BS端引入超参数控制系统执行全局更新的时机,以进一步达到调控系统异步程度的目的;另一方面,我们针对该异步式FL架构设计了专门的中心端模型融合算法,其在充分保障全局模型泛化能力得以持续提升的同时,通过平衡各用户对全局模型的影响占比和其样本占比之间的关系可有效避免模型出现收敛偏差等问题。综上所述,我们提出的同步式及异步式FL架构,均联合考虑了如何提升全局模型最终的表现性能以及如何降低系统在训练过程中所引入的通信代价。针对本文所设计的每一个FL架构及算法,我们均通过进一步的仿真实验将其与相关工作进行了横向对比,以充分验证其设计合理性与有效性。
其他文献
飞机起落架是飞机结构中一个极其重要的部件。飞机着陆瞬间,起落架机轮从静止突然高速运转,其间机轮在水平方向上受力状况变化迅速而复杂;由于机轮水平冲击载荷的变化状况直接关系到机轮刹车装置、缓冲器、摇臂减摆装置等关键部件的可靠性设计,也影响到对起落架强度和刚度、刹车减震效率、功量吸收、机轮起转回弹等性能的研究,因此通过起落架落震试验,确定飞机在不同速度下着陆时起落架机轮的水平冲击载荷,对起落架的强度分析
会议
RGB-D语义分割在RGB输入图像的基础上额外利用深度数据为图像中的每个像素分配对应的语义类别标签,相较于RGB图像语义分割,在应对外观差异和光照变化时性能更加鲁棒,因此在自动驾驶、机器人视觉等领域有较大的应用价值。但如何有效融合两种模态以及如何抑制可能存在的深度噪声依旧是RGB-D语义分割方法需要解决的问题。另一方面,对比学习近年来在无监督表示学习中得到了成功应用。如何将对比学习应用于有监督的多
学位
对于利用合成孔径成像技术构建的长基线干涉测量系统来说,进行多光束的干涉组合并根据测量结果对频谱信息进行提取是实现目标图像重构的关键。其中,多光束的干涉组合目前主要利用集成光学器件完成;而干涉测量结果通常采用像素到可见度矩阵法(P2VM)进行处理,以减小器件误差对复可见度计算的影响。本论文主要对用于长基线干涉测量系统的集成光学移相干涉仪及其误差校准方法P2VM进行了相关研究,主要研究内容如下:1.应
学位
<正>聚合物纳米微球不仅有着纳米材料的优异性能,还因其独特的结构形貌在很多领域有着广泛的应用。静电喷雾法是新兴的以聚合物为原料采用电流体动力学射流技术制备高分子纳米粒子或纤维状物质的方法。它具有良好的可控性和加工性,能制备出直径小、粒径分布较窄的微球;微球因携带电荷相互排斥而具有很好的自分散性。但是目前此法对微球结构形貌的控制的研究较少,本文采用聚醚砜(PES)为原料制备微球,扫描电子显微镜(SE
会议
水土保持是近几年城市道路路基施工的新要求。因缺乏足够技术应用经验,城市道路路基施工中水土流失现象较为频繁,对工程环保效益造成了较大危害。因此,以城市道路路基施工项目为例,对基于水土保持理念的路基施工做法进行了分析探讨,希望可以为同类型工程项目提供参考,全面落实路基水土保持理念,保证城市道路环保效益。
期刊
为提高市政道路施工质量,依托某市政道路工程实例,重点探讨了市政道路路基施工要点,包括测量放样、路基开挖与填筑、软基处理、路基碾压、路基防护等,并从施工材料、路基养护、路基防水、裂缝防治等方面提出了路基施工质量的控制对策,可为其他类似工程提供参考。
期刊
随着无线通信技术的快速发展,未来的6G无线通信网络将会是一种感知、通信、计算协同融合的网络,而通信感知一体化作为6G移动网络的关键技术之一,获得了业界的广泛关注。本文从感知成像的速度、精度、计算代价等角度出发,对通信感知一体化无线系统中的环境感知方法进行了研究。本论文主要内容如下:第一,本文提出了一种基于Reed-Muller(RM)序列调制、智能反射面辅助的计算成像环境感知方案。利用智能反射面的
学位
《义务教育数学课程标准(2022年版)》围绕数学核心素养整体优化编排结构,分阶段刻画数学核心素养的具体表现;以数学主题为单位结构化课程内容要求,新增数据分类及代数推理,加强几何直观;“综合与实践”明确以跨学科项目式学习的方式开展,课程深度提升较大。要完善数学项目式学习配套资源以支持课程综合,推动数学核心素养驱动下育人方式的改革;立足学业质量标准深研测评框架,践行素养导向的学业评价以促进“教—学—评
期刊
道路路基工程施工质量的控制与建设是关系到社会经济发展的重要环节,质量直接关系到道路使用年限的同时更关系交通运输中人身财产安全。而道路中路基建设又是道路项目整体建设的关键,为此,要切实抓好路基和路面施工质量,并持续改善施工工艺,针对常见质量问题,积极开展整治和维护,从多个角度改善其服务功能。下面本文就道路路基工程施工及质量控制进行简要探讨。
期刊
随着自动驾驶技术的发展,基于感知传感器的定位算法作为其中最基础且重要的一环,得到越来越广泛的关注。在诸多基于不同传感器的定位算法中,激光雷达SLAM具有较高的精度和鲁棒性,是目前自动驾驶技术中主流的定位算法之一。在实际自动驾驶场景应用中,定位算法通常需要包括传感器标定、高精建图和实时定位三个主要功能,而目前传统的激光雷达SLAM方法在实际的自动驾驶场景中存在着精度和鲁棒性不足的问题。因此,本文提出
学位