【摘 要】
：
动量方法由于能够改善SGD(stochastic gradient descent)的收敛性能而倍受机器学习研究者的关注.随着其在深度学习的成功应用,动量方法出现了众多形式的变体.特别地,产生了SU
【机 构】
：
中国人民解放军陆军炮兵防空兵学院信息工程系,中国人民解放军陆军工程大学指挥控制工程学院
【基金项目】
：
国家自然科学基金项目(61673394),安徽省自然科学基金项目(1908085MF193)
论文部分内容阅读
动量方法由于能够改善SGD(stochastic gradient descent)的收敛性能而倍受机器学习研究者的关注.随着其在深度学习的成功应用,动量方法出现了众多形式的变体.特别地,产生了SUM(stochastic unified momentum)和QHM(quasi-hyperbolic momentum)两种统一框架.但是,即使是对非光滑凸优化问题,其最优平均收敛性的获得仍然存在着固定迭代步数和无约束等不合理限制.为此,提出了一种更一般的含三参数的统一化动量方法TPUM(triple-par
其他文献
中华儿女多奇志,战疫黄花分外香。在抗击新型冠状病毒感染的肺炎疫情的过程中,一批批女医护工作者迎难而上、救死扶伤,她们就是这个时代的英雄。为了让她们在一线安心,也为了
北京民营科技企业在其发展成长过程中，不但创造了世人瞩目的社会财富，造就了新型科技企业家群体，而且培育了与物质财富相应生辉的企业文化。 企业文化是企业在发展过程中形成的具有企业特色的思想意识、价值观念和行为习惯，是企业在各项实际活动中体现出来的以文明取胜的群体竞争意识。北京民营科技企业文化，是北京民营科技共同形成的群体竞争意识形态。其中，中关村地区的民营科技企业最具有鲜明的特色。 中关村企业
12020年2月12日23点45分,正准备睡觉的陆卉突然接到领导打来的电话:“鉴于武汉疫情的严重性,我院将组建一支援助武汉抗疫医疗队,你报名吗?时间紧迫,24点前,你要给我确切的回
如何识别我国的高端食用油市场 从宋代开始，我国就有了关于食用植物油的历史记载，由此可见，食用植物油一直是我国人民重要的生活物品；进入新时代，改革开放带来市场经济的发展，我国食用油行业迎来了勃勃发展生机，成为绿色朝阳产业的代表；21世纪以来，我国人民生活水平大幅提升，食用油行业从粗放走向精细，其中的高端食用油市场迎合了人们追求健康生活品质的需要，尤其引人关注，同时将带动我国食用油产业的结构升级
现代学徒制在中职院校机电专业的实施过程中,依然存在着一些问题。例如:课程体系不利于现代学徒制的实施,教师队伍建设不完善,缺少制度和政策支持等。文章针对现有的问题提出
自新冠肺炎疫情发生以来,合肥市公安局110指挥中心认真贯彻上级部署要求,坚持把疫情防控作为当前重大政治任务、最重要的工作,把人民群众生命安全和身体健康放在首位,以最坚
林则徐所处的时代,正值清王朝由康、乾的鼎盛时代走向衰亡的转折时期,也是中国几千年的封建社会处于体解的前夕。这一时期的特点是:地主阶级和皇室贵族大量兼并土地,残酷地
应用蚕豆根尖微核试验,对SO2的遗传毒性效应进行了研究.结果表明 :一定浓度范围内 (0.108～14.00 mg/m3),蚕豆根尖微核细胞数与SO2浓度间呈正相关,太原市大气污染严重的冬季采
提高社区矫正的质量,最终落实总体国家安全观和治本安全观的要求,对社区服刑人员开展多种形式的调查与研究具有重要的现实意义。文章首先对社区矫正服刑人员的基本信息、心理
如今,以短视频媒体为代表的新媒体传播已经融入受众的日常传播活动中,成为当前新媒体用户了解外部世界、满足社交需求的必要手段。在种类繁多的短视频媒体中,不乏一些被用户