【摘 要】
：
动量方法作为一种加速技巧被广泛用于提高一阶梯度优化算法的收敛速率.目前,大多数文献所讨论的动量方法仅限于Nesterov提出的加速方法,而对Polyak提出的Heavy-ball型动量方
【机 构】
：
中国人民解放军陆军炮兵防空兵学院信息工程系,中国人民解放军陆军工程大学指挥控制工程学院
【基金项目】
：
国家自然科学基金项目(61673394).
论文部分内容阅读
动量方法作为一种加速技巧被广泛用于提高一阶梯度优化算法的收敛速率.目前,大多数文献所讨论的动量方法仅限于Nesterov提出的加速方法,而对Polyak提出的Heavy-ball型动量方法的研究却较少.特别,在目标函数非光滑的情形下,Nesterov加速方法具有最优的个体收敛性,并在稀疏优化问题的求解中具有很好的效果.但对于Heavy-ball型动量方法,目前仅仅获得了平均输出形式的最优收敛速率,个体收敛是否具有最优性仍然未知.对于非光滑优化问题,通过巧妙地设置步长,证明了Heavy-ball型动量方法具
其他文献
本文根据调查结果,概述了安徽省大麦、高梁、绿豆、蚕豌豆、赤豆和豇豆等小宗粮豆的生产、加工及销售情况,指出了发展的有利条件和前景,分析了存在问题,并提出了相应的发展目
<正>技术创新才能引领时代。去年以来,冀东油田机械公司着力打造创新驱动引擎,加快培育研发具有市场竞争力的优势产品,推出了新一代真空加热炉、顶驱式抽油机、低氮燃烧器等
党的十九大报告指出，我国经济已由高速增长阶段转向高质量发展阶段，正处在转变发展方式、优化经济结构、转换增长动力的攻关期。在这个攻关期，现代服务业的比重不断提升，其发展速
通过对霍邱县水产现状分析,指出存在问题,探讨发展对策.
介绍不同处理控制巨峰葡萄落花落果效应比较试验的结果.
为提高加密图像的安全性和解密图像质量,提出一种异或-置乱框架下邻域预测加密域可逆信息隐藏算法.异或-置乱加密能同时保护原始像素的统计信息和位置信息,减小图像内容泄露
九十年代后期，二化螟出现了回升势头猛、发生型改变、发生期异常等新特点，分析认为：7、8月份高温、主防农药防效下降，秋播免（少）耕面积扩大以及种植业结构调整、作物多元化是二化螟
3年的田间试验表明:秸秆还田能够改善土壤的理化性状,提高土壤肥力,增加酥梨的产量.梨园区每公顷施秸秆4 500kg,土壤有机质、碱解氮、速效磷、速效钾比未施秸秆分别上升14.7%
车载自组织网络（vehicular ad hoc network, VANET） （也称车联网）数据安全共享通常采用群加密方式，高速移动的车载终端给群组构建和群密钥管理带来困难.密文策略属性基加密（ciphert
利用一个深度卷积神经网络提出并验证了一种能自动判别左右眼的新方法.根据左眼和右眼图像的特征差异性,所设计的网络能够自动估计网络的所有参数.在Alexnet网络的基础之上进行修改,设计的卷积神经网络由4个卷积池化层和2个全连接层组成,其次是作为最后一层的分类器.基于针对42 541张眼底图像的实验结果,所提出的网络的训练精度约为100%,测试精度高达99%.此外,所提出的网络具有高度的鲁棒性,它可以