【摘 要】
:
随着信息化技术的革新和发展,产生了大量的互联网用户数据,传统的集中式学习具有很高的风险和成本,日益严重的隐私安全问题促进了联邦学习(Federated Learning,FL)的诞生。同时,随着边缘网络的发展、硬件设备计算和存储能力的提升,大量的网络服务下沉到网络边缘,边缘计算(Edge Computing,EC)得到了普及。得益于此,联邦学习的技术理念能够很好地应用于边缘计算当中,然而本地模型可
论文部分内容阅读
随着信息化技术的革新和发展,产生了大量的互联网用户数据,传统的集中式学习具有很高的风险和成本,日益严重的隐私安全问题促进了联邦学习(Federated Learning,FL)的诞生。同时,随着边缘网络的发展、硬件设备计算和存储能力的提升,大量的网络服务下沉到网络边缘,边缘计算(Edge Computing,EC)得到了普及。得益于此,联邦学习的技术理念能够很好地应用于边缘计算当中,然而本地模型可能是与全局模型收敛方向相反的异常模型,并且大量的边缘设备与服务器频繁的交互通信会造成训练效率低下。因此本文围绕上述两个问题展开研究:第一,边缘计算环境下,由于更加动态的网络环境、计算能力的约束以及本地数据质量的不平衡,会导致边缘设备上传一些异常的模型参数;边缘设备也可能会发起恶意攻击,故意向服务器发送异常的模型参数,导致全局模型性能恶化甚至训练失败。针对该问题,本文提出了一种基于聚类和梯度距离的模型聚合算法。首先,考虑到联邦学习中数据可能呈非独立同分布(Non-Independent and Identically Distributed,Non-IID),通过聚类算法确定全局模型的收敛趋势;然后,通过计算各本地模型与全局模型的梯度下降距离来确定该本地模型的异常程度,并基于此赋予各本地模型不同的权重进行加权聚合。实验结果表明,无论边缘设备的数据是否服从独立同分布,本文提出的方法都能有效地检测出异常模型并消除其不利影响。第二,联邦学习需要服务器与大量边缘设备进行参数交互,并且在全局任务里不断地迭代这个过程,这在边缘计算场景下将带来严重的通信开销,导致联邦学习的训练效率严重下降。针对该问题,本文提出了一种基于深度强化学习(Deep Reinforcement Learning,DRL)的自适应联邦学习算法。首先,综合分析不同大小的本地训练轮数对联邦学习性能的影响;然后,根据模型精度与训练效率的优化问题构建马尔可夫决策过程(Markov Decision Process,MDP);最后,通过深度Q学习(Deep Q-learning,DQN)实现本地训练轮数的自适应调整。实验结果表明,本文提出的方法能够在保证联邦学习模型精度的前提下,提高训练效率,改善联邦学习的整体性能。
其他文献
弹性光网络能够有效地克服传统波分复用网络粗糙粒度带宽资源划分方式以及固定不变调制格式的缺点,被广泛地认为是一个极具发展潜力的智能光网络。在弹性光网络实时通信过程中,业务量随时间变化产生波动,因此,考虑网络中业务的动态性和时变性,可以有效提高网络吞吐量和频谱利用率。与此同时,光纤承载了超大容量,网络故障的出现会给运营商以及用户带来巨大的灾难。因此,研究网络的生存性,对网络的发展与应用具有十分重要的意
风能作为二十一世纪的主要绿色能源,在非再生能源中占有举足轻重的地位。风能发电设备不断更新和发电技术水平不断提高,风能发电已成为最成熟、最具规模化发展潜力、最具商业化潜力的新能源发电技术。随着风电接入系统的比例持续增大,风电并网运行对电力系统的不利影响日益突出。因此评估风电接入的电力系统可靠性显得尤为重要,以实现风能充分利用和风能与电力系统可靠性的统一。针对风电功率预测不准确问题,本文提出了改进烟花
在线学习系统提倡因材施教,能够根据学生的知识掌握情况为其提供个性化的学习内容和学习路径。然而面对海量的试题资源,学生很容易陷入“信息迷航”的困境。因此,如何为学生推荐合适的试题是智慧教育领域亟待解决的关键难点。知识追踪能建模学生随时间不断变化的知识状态,预测学生在未来试题上的表现,为试题推荐提供决策依据。为此,本文基于深度学习提出了两种知识追踪模型用于试题推荐,一种为输入仅包含知识点信息的试题序列
智能电网是电网系统的智能化,具有应用场景广泛、业务种类繁多、传输稳定性的特点,是目前世界电力系统的发展趋势。电力线通信(Power Line Communication,PLC)因其覆盖范围广、布线简单的特点是智能电网的主要通信技术。但由于其信道特性,电力线通信存在较强的信道衰减和脉冲噪声。无线通信因布线灵活、可扩展性好的特点也成为智能电网的通信技术之一。但由于智能电网网络拓扑结构复杂,接入用电设
随着多功能移动终端的普及,智能识别、增强现实(Augmented Reality,AR)及电子医疗等新型应用逐渐向移动网络渗透。然而,由于移动用户(Mobile User,MU)的计算及缓存能力有限,难以为资源密集型应用提供高质量服务。移动边缘计算(Mobile Edge Computing,MEC)技术可解决上述问题。MEC融合了无线通信网络和云计算技术,通过在网络边缘部署MEC服务器支持MU任
短波通信以其通信距离远、技术成熟、成本低等优势使得其被广泛应用于商业、工业、军事等国民经济的各个部门。尤其在军事领域,它一直是军事作战主要的通信方式之一。而移动自组织网络的组网简单灵活、无需架设基础通信设施、自愈性强等优势,使得其和短波通信相结合形成的短波自组网具有重要的应用价值。短波自组网中节点组网需要路由协议的支持,本文以优化链路状态路由(Optimized Link State Routin
现如今,全球导航卫星系统(Global Navigation Satellite Systems,GNSS)取得了快速的发展,导航定位等功能在我们日常生活中的应用也越来越普遍,随着这些发展所带来的不仅有我们生活方面的便利,还有越来越拥挤的导航频段。为了在一定程度上缓解频段拥挤的问题,二进制偏移载波信号(Binary Offset Carrier,BOC)以及由其所产生的衍生信号随之产生,但是在解决
随着无线通信作为网络的主要接入方式所需要承载的数据量越来越大,无线频谱资源作为提升网络速率的关键因素日益紧缺。可以缓解频谱资源紧张和提高设备近距离通信速率的太赫兹通信技术受到越来越多的学者的关注。太赫兹无线个域网是一种使用太赫兹波作为通信载波进行近距离超高速通信的无线网络系统。但由于太赫兹波信号在空气中衰减严重的特性,其传输距离受到限制。太赫兹无线个域网双信道媒体接入控制(Media Access
自由空间光通信(Free Space Optical Communication,FSOC)系统容易受到大气湍流的影响,导致传输的光束产生波前畸变,影响通信质量,因此研究如何更好地补偿波前畸变对FSOC系统具有重大意义。无波前传感自适应光学(Wavefront Sensorless Adaptive Optics,WFS-less AO)是当下可以有效校正波前畸变的技术之一,它将成像清晰度或者接收
表情识别是智能化人机交互领域中的关键技术,有助于机器更好地理解人类的情感状态和意图。其中,面向图像序列的动态表情识别凭借着时间变化关系在描述面部表情时具有更大优势,成为当前热门研究方向。但研究发现还存在着一些问题,如现有方法提取到的特征无法精确表征面部表情,易受光照变化的影响,且现有损失函数难以有效区分高相似度表情类别。因此,本文采用融合特征提取方法和改进损失函数对动态表情识别展开分析和研究。1.