基于隐式随机梯度下降优化的联邦学习

来源 :智能系统学报 | 被引量 : 0次 | 上传用户:haifeng_liu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
联邦学习是一种分布式机器学习范式,中央服务器通过协作大量远程设备训练一个最优的全局模型。目前联邦学习主要存在系统异构性和数据异构性这两个关键挑战。本文主要针对异构性导致的全局模型收敛慢甚至无法收敛的问题,提出基于隐式随机梯度下降优化的联邦学习算法。与传统联邦学习更新方式不同,本文利用本地上传的模型参数近似求出平均全局梯度,同时避免求解一阶导数,通过梯度下降来更新全局模型参数,使全局模型能够在较少的通信轮数下达到更快更稳定的收敛结果。在实验中,模拟了不同等级的异构环境,本文提出的算法比FedProx和FedAvg均表现出更快速更稳定的收敛结果。在相同收敛结果的前提下,本文的方法在高度异构的合成数据集上比Fedprox通信轮数减少近50%。显著提升了联邦学习的稳定性和鲁棒性。
其他文献
随着智能技术和无人驾驶技术的发展,农业机械的智能化和无人驾驶控制技术已成为趋势和未来的发展方向。提出了控制系统方案,并解决了传统农机如何有效实施智能控制和无人驾驶技术的问题。
工程总承包由于包含了设计、采购、施工,招标的重要性更强,招标的要求更高、难度更大,因此在工程总承包招标中应充分了解项目的特点,认真细致地做好招标准备。本文从投标人资格、招标控制价合理编制、招标工期的合理性、发包人要求的编写、合同价格形式、进度款支付等方面对招标文件编制注意事项进行探讨,并介绍了《房屋建筑和市政基础设施项目工程总承包管理办法》对编制工程总承包招标文件的影响,可供其他项目编制工程
期刊
目的研究临床护理路径在慢性肾小球肾炎患者中所取得的护理效果。方法将2019年3月至2020年6月来医院治疗的76例慢性肾小球肾炎患者随机分为观察组(38例)和对照组(38例)。分别对两组患者实施临床护理路径(观察组)和常规护理(对照组),比较两组护理效果和肾功能。结果两组患者护理前的负面情绪严重而且无差异性(P> 0.05),护理以后2个月,观察组的负面情绪改善比对照组更优,数据差异具有统计学意义
在现阶段的文化环境下,"佛系"作为一种新的文化思想,成为了当前一部分年轻人所推崇和遵行的一种价值观念。这种价值观念倡导的是"无为而治",提倡的是潇洒和消极心理。长此以往,会对我国的年轻人带来非常不利的严重影响,最终产生消极主义和虚无主义,阻碍社会的进步与发展。高等院校作为我国主要的人才培养场所,"佛系"思想同样影响到了校内的大学生。这种影响无论是对学生个人的发展,还是对学校、社会、国家的发展都带来
项目工程的招标文件对于整个施工过程管理具有非常重要的作用。在招标文件中,通常会对项目工程的具体施工要求明确说明,投标方需要对招标文件有全面了解之后,根据其内容来确定自己是否满足建设单位的条件,能否完成建设单位的项目管理目标。本文从项目管理的五大控制要求着手探讨如何编制招标文件,为项目实施阶段的管理打好基础。
期刊
2021年10月16日,由中国社会科学院农村发展研究所、中国社会科学院城乡发展一体化智库、湖北省社会科学院、十堰市人民政府共同举办的“全国新型城镇化与乡村振兴高峰研讨会暨第十七届全国社科农经协作网络大会”在湖北省十堰市郧阳区召开。中国社会科学院、中央有关部委、地方社科院、有关高校、湖北有关省直机关的领导、专家学者和企业家160余人齐聚南水北调核心水源区,以新型城镇化与乡村振兴为主题进行深入探
期刊
尿蛋白是慢性肾炎进展的危险因素,利用非免疫抑制疗法降尿蛋白是临床上关注的问题。在应用血管紧张素转换酶抑制剂(ACEI)和(或)血管紧张素Ⅱ受体拮抗剂(ARB)降尿蛋白和延缓肾功能进展的基础上,限制钠盐摄入和(或)使用利尿剂均可提高AECI和(或)ARB降尿蛋白的效果。进一步联合盐皮质激素受体拮抗剂(MRA)和(或)钠-葡萄糖协同转运蛋白2(SGLT-2)抑制剂则兼具降尿蛋白保护肾功能的作用。
东海海面,旭日喷薄,一艘已在水下寻猎数日的"水下蛟龙",刺破水面露出黝黑背脊。艇员们伫立舰桥凝望远方,一条清晰航线浮现眼前。10多年前,某新型潜艇巍峨的身影首次出现在祖国海疆,跨越了30年的装备"代沟"。今天,完成了数艇次试航、全训、转接的东海舰队某潜艇支队,在深海大洋犁出了壮美航迹:成功实现潜艇整建制转型、探索战法训法,创下极限深潜、极限长
期刊
张进锐西南政法大学2000级本科生,2004级硕士研究生广东省西南政法大学校友会副会长曾任碧桂园集团法务部总经理现为碧桂园贵北区域总裁2020年12月初,记者在遵义见到张进锐时,他刚履新碧桂园贵北区域总裁不到两个月。
期刊
当今青年群体中的"佛系"现象在一定程度上客观存在,具体表现为生活态度上推崇惰性处事的极简主义,情绪表达上存在孤独厌世的悲观主义倾向,价值取向上表现为奋斗精神缺乏与理想信念难以坚守。文章基于对大学生"佛系心态"生成原因的深度剖析,强调高校德育工作应积极引导青年牢固树立"幸福是奋斗出来的"的信念,加强网络思想政治教育,净化青年次文化传播环境,唤醒大学生积极潜意识并引导其走出习得性无助误区。