【摘 要】
:
随着物联网和移动设备性能的不断提高,一种新型计算架构——边缘计算应运而生。边缘计算的出现改变了数据需要集中上传到云端进行数据处理的局面,最大化利用边缘物联网设备的计算和存储能力。边缘计算节点对本地数据进行处理,不再需要把大量的本地数据上传到云端进行处理,减少了数据传输的延时。另一方面,人工智能在各行各业发挥巨大优势,因此在边缘网络设备上部署人工智能运算模块的需求也在逐日增大。联邦学习正是符合这种需
论文部分内容阅读
随着物联网和移动设备性能的不断提高,一种新型计算架构——边缘计算应运而生。边缘计算的出现改变了数据需要集中上传到云端进行数据处理的局面,最大化利用边缘物联网设备的计算和存储能力。边缘计算节点对本地数据进行处理,不再需要把大量的本地数据上传到云端进行处理,减少了数据传输的延时。另一方面,人工智能在各行各业发挥巨大优势,因此在边缘网络设备上部署人工智能运算模块的需求也在逐日增大。联邦学习正是符合这种需求的一种计算机制,联邦学习具有“联合学习”的意思,在联邦学习框架中,多个设备协同工作以共同训练学习模型。传统的联邦学习是一种分布式的学习框架,其中大部分计算工作(如模型训练)在节点侧执行。每个节点在其本地进行学习,并通过与中央服务器的交互逐步优化学习模型。因为联邦学习机制不需要集中大量数据以进行模型训练,所以更适合于数据量有限的边缘网络设备进行机器学习。但联邦学习也存在一些不足,如在训练过程中,节点与参数服务器的交互存在冗余通信,当联邦学习规模扩大时,这些冗余通信消耗的成本是不容忽视的。且传统联邦学习属于同步学习的范畴,这与边缘节点所具有的“高自由度”是矛盾的,因此如何将同步联邦学习向异步联邦学习转变,甚至是基于异构模型融合的异步联邦学习,这都是值得研究的问题。基于以上现状,本文提出面向异构边缘节点的融合联邦学习机制研究(Efficient Asynchronous Federated Learning Mechanism for Edge Network Computing,缩写为EAFLM)。EAFLM根据自适应的阈值对训练过程中节点与参数服务器之间的冗余通信进行压缩,实验显示阈值自适应梯度压缩实现了将梯度通信压缩至原通信次数的8.77%时,准确率仅降低0.03%。对于异步联邦学习的实现,本文提出了双重权重修正的梯度更新算法,在不影响学习准确率的前提下允许节点在学习的任何过程中加入或退出联邦学习。本文还对异构模型的融合和压缩进行研究,使节点能在不统一所训练的模型结构的情况下进行联邦学习,最大化使用每个节点的计算和存储能力。
其他文献
目前,通信芯片设计面临两大挑战:一是不断提升的设计复杂度,二是紧迫的项目周期。这也给通信芯片验证工作带来了严峻的挑战。直接验证和FPGA验证相结合的验证方法是目前较多通信IC设计公司常采用的方式。然而,直接验证的验证完备性和验证效率较低,而FPGA验证存在错误定位困难,综合时间过长等缺陷。因此,如何提高通信芯片验证的效率和完备性,并且在仿真阶段快速定位和解决错误,减少后期FPGA验证的工作量成为亟
全世界恶性肿瘤发病率和死亡率逐年上升,严重威胁人类的生命安全和社会发展。化疗是除手术外治疗肿瘤的最主要方法,然而随着时间的推移与化疗药物的不断摄入,肿瘤细胞会对化疗药物产生多药耐药性,使化疗药物的作用下降或者消失,寻找新颖的抗肿瘤药物和解决肿瘤细胞的多药耐药性是肿瘤治疗急待解决的问题。肿瘤多药耐药逆转剂可以逆转肿瘤细胞的耐药性,恢复肿瘤细胞对化疗药物的敏感性,提高化疗药物的作用。但是现有的肿瘤多药
本文在研究的过程中参考了国内外相关的研究成果及文献,结合自身十多年的从教经验,以在高中数学课堂教学中如何进行问题化学习为本文研究的目标。“问题化学习在高中数学教学
对流层散射通信的传输距离很远、对环境的抗干扰能力极强,因此受到很多学者和工程师的关注,被广泛运用到各种远程和应急通信场景。可惜的是,传输距离远往往会造成对流层散射信道传输损耗大,而且对流层散射信道具有较大的频率选择性衰落。面对这些困境,单载波交织式频分多址(SC-IFDMA)应运而生。SC-IFDMA系统的峰均比(PAPR)很低,能够充分利用发射机的功率,正好克服对流层散射信道损耗大的缺点,同时它
职业教育行业内,不少教育机构在业务竞争战略的选择上,成本领先、差异化、聚焦型三者择其一的单一战略已受到学术界学者高度关注,单一战略在行业内也被广泛应用且取得显著成效。但两种及两种以上的组合战略在职业教育行业内的应用研究鲜有涉及,如果在单一战略都不适合的情况下,组合战略在竞争日益激烈的市场或许能帮助内部极为弱势的职业教育机构另辟蹊径,找到未来的发展之路。鉴于此,本文选取在IT行业内品牌形象、市场地位
烟草是一种重要的经济作物,在贵州烟区烟草早期生长容易受低温环境的影响,生长缓慢、出现冻伤影响烟草产量与品质,如何提高烟草苗期生长速度、克服早期寒流影响,对贵州烟草生
目标检测是计算机视觉的重要应用领域之一。随着传感器技术和航天工业的发展,遥感影像的分辨率有了很大的提高。在高分辨率光学遥感数据中,目标的轮廓和纹理可以被清晰地观察到,为目标检测的应用提供了数据基础,且光学遥感数据中目标结构比SAR图像更接近人眼感知。由此目标检测也成为光学遥感领域的又一基础性问题。伴随着这些优势的同时,在目标检测任务中光学遥感数据也带来的新的挑战。例如,光学遥感数据中背景信息复杂、
语法作为英语学习的重要组成部分,是很多英语学习者的学习难点。主谓一致的学习在英语语法中的地位是毋庸置疑的。因此,很有必要了解学生对英语主谓一致语法点的掌握情况,对主谓一致的教学进行精准定位并对其基本规则进行归纳总结,进而采取有效的教学策略以引导学生掌握主谓一致的规则。本研究以X学校初一年级的96名学生作为研究对象,从错误分析的理论出发,主要采用测试、问卷、访谈三种方式对初中生在语法中出现的主谓一致
目的:研究桃红四物液对家兔血管吻合术后PV、PT、SOCS-3、TNF-α、IL-6表达的影响。方法:将25只实验家兔,按完全随机原则分为手术组1(罂粟碱肌注)、手术组2(桃红四物液灌胃)、手术组3(桃红四物液灌胃+罂粟碱肌注)、假手术组(桃红四物液灌胃)、和对照组(桃红四物液灌胃),每组5只家兔。手术组和假手术组造模成功后,根据分组情况分别予以桃红四物液灌胃或罂粟碱肌注。在术前半小时、术后4小时