【摘 要】
：
本篇文章我们首次提出了带有Katyusha动量的SPIDER算法（Prox SPIDERK）,并将其应用到求解非凸非光滑优化问题当中,继而给出算法的收敛性和复杂度分析。我们知道,2018年新提出的SPIDER算法在非凸优化中已证明具有近似最优的计算复杂度（Oracle复杂度）,但我们知道SPIDER算法的的理论优势并没有导致其实际性能比其他随机算法（如SVRG,SARAH）有较大的提高。为了解决这
【基金项目】
：
北京市自然科学基金面上项目（NO.1202021）；
论文部分内容阅读
本篇文章我们首次提出了带有Katyusha动量的SPIDER算法（Prox SPIDERK）,并将其应用到求解非凸非光滑优化问题当中,继而给出算法的收敛性和复杂度分析。我们知道,2018年新提出的SPIDER算法在非凸优化中已证明具有近似最优的计算复杂度（Oracle复杂度）,但我们知道SPIDER算法的的理论优势并没有导致其实际性能比其他随机算法（如SVRG,SARAH）有较大的提高。为了解决这一问题,动量技术成为我们提高SPIDER算法性能的一个不错选择。2019年带有Nesterov动量的SPIDER-M算法被提出,然而,传统的Nesterov动量方案在方差缩减类算法中的应用是专门为确定性优化问题和非随机类算法而设计的,不适用于随机场景,所以我们在本文中引入了Katyusha动量来解决这个问题。结果表明,我们的算法在满足广义一阶平稳条件下,同样达到了最优的计算复杂度。而通过大量的数值实验对比,也验证了我们算法所具有的理论优势,实现了所预期的理论结果。
其他文献
随着现代信息技术的快速发展与拍摄设备的逐渐普及,图像已成为人类获取信息的重要来源之一。但是,在图像拍摄过程中,由于光照不足、雨雪雾等复杂的外界环境条件以及拍摄设备的影响,使得获取的图像质量往往不尽人意,由此为图像的广泛应用带来了极大挑战。例如,在暗光环境下拍摄的图像,通常存在可见度低、对比度低、色彩退化等问题,导致大量细节信息损失,因而影响了图像视觉效果的呈现以及后续视觉任务的性能,如目标检测等。
随着城市人口增长,城市向外扩张,城市轨道交通线路从城市中心逐步向外延伸,传统站站停模式已不能满足多样化的乘客出行需求。快慢车运输组织模式可以更好地适应客流断面不均衡性特征,提升中长距离乘客出行效率,加速车底周转,节省车底数,提升城市轨道交通综合效益,但同时快慢车运输组织模式存在一定不利影响。因此,有必要对快慢车运输组织模式进行深入探究,论文的主要工作如下:（1）基于快慢车概念、运输组织模式、开行条
当前信息技术的快速发展使得光通信网络数据量剧增,标准单模光纤的传输容量已接近非线性香农极限。为解决通信容量危机,基于空分复用的多芯光纤、少模光纤和少模多芯光纤充分利用空间维度,有望解决单模光纤传输容限问题,其中少模多芯光纤利用纤芯和模式两个维度扩大空间信道数,在通信容量扩展方面极具潜力。多个纤芯的芯间串扰以及纤芯内的模式串扰是衡量少模多芯光纤传输性能的重要指标,而光纤的抗弯曲能力以及模式的有效模场
随着信息技术的飞速发展,Photoshop、美图秀秀等功能强大的图像编辑工具不断涌现。然而,利用这些工具,不法分子可以肆意篡改图像内容实现非法目的,这会对个人甚至整个社会都造成负面影响。因此,判断图像内容是否真实具有重要的研究价值。中值滤波是一种简单的非线性操作。由于中值滤波在去除噪声时能保证图像内容不变,篡改者常利用它来消除篡改图像时产生的视觉畸变和统计畸变,使得篡改图像以假乱真,从而破坏数字图
薄膜材料具有质量轻、柔性大、阻尼小的特点,这些特定决定了其风敏感的特性。近年来出现过许多薄膜屋盖结构结构在风荷载作用下失稳乃至破坏的实例,其主因通常是由于来流在流经薄膜屋盖时,在引起屋盖发生振动的同时屋盖反过来影响了周围的流场,这种现象表明薄膜屋盖结构与流场之间存在风致耦合效应。而由于薄膜屋盖结构的气弹响应及气动力特性是风致耦合效应最直观的表征,因此本文以单向拉伸薄膜屋盖的气弹响应及气动力特性为研
脑卒中是常见的心脑血管疾病之一,其发病率、死亡率、复发率均高居不下。主要病因在于颈动脉血管内部粥样物质长时间堆积,最后脱落造成血管堵塞。早期发现动脉硬化狭窄及高危斑块,并及时采取干预措施,可以有效延缓病变进程。本文采用深度学习技术,对头颈部CTA影像中的颈动脉血管及斑块组织进行精准分割,评估颈动脉狭窄程度,并对斑块性质进行分类,以辅助医生诊断。本文主要研究内容如下:（1）基于残差、挤压-激励及空洞
乳腺癌是女性癌症死亡的重要原因之一,且其发病率呈逐年递增和年轻化的趋势。近年来,全自动乳腺容积扫描（Automated Breast Volume Scanner,ABVS）开始应用于临床,其在乳腺病变检出以及诊断中的应用逐渐受到关注。由于ABVS实现了连续横切面图像的采集,医生的阅片工作量较大,且基于主观分析的检测结果具有一定的个体差异。基于图像处理和模式识别方法的计算机辅助诊断系统有助于降低诊
合理设置列车的多站间冗余运行时间和发车间隔,可以有效降低列车的运行能耗。以节能为目标的轮轨列车站间冗余运行时间优化取得了丰富的研究成果,但中低速磁浮列车的相关研究还处于起步阶段。本文针对中低速磁浮的技术特征,以节能为目标研究中低速磁浮列车多站间冗余运行时间分配和发车间隔问题。首先,建立了列车运行能耗模型,然后,再计算列车站间最小运行时间和列车节能策略下的最优节能运行时间,在此基础上,以节能为目标,
地应力测量数据是隧道与地下工程建设的基础资料,然而受地质构造运动、断裂带等外界因素的影响,以及受测量方法、测量样本数等技术经济方面的制约,局部地应力测量数据存在较大的不确定性。岩爆现象是高地应力硬岩地下工程不可回避的风险灾害,岩爆发生机制与预测一直以来是岩爆灾害方面研究的热点所在。高地应力是岩爆的“驱动”因素,高地应力测量数据的不确定性将导致岩爆预测的不确定性。本文从地应力测量数据的反演和不确定性
我国在实现碳达峰、碳中和的进程中,加快形成绿色低碳的运输方式对交通电气化发展提出了要求,电动汽车的普及在节省能源和减少污染物排放的同时,其充电需求的随机性给电网运行带来了压力。随着车辆到电网（Vehicle-to-Grid,V2G）技术的发展,电动汽车具有的移动储能特性为其辅助电网运行提供了途径。针对电动汽车用户在工作和娱乐时段的充电需求与电网原始负荷高峰重叠,容易造成电网负荷“峰上加峰”的情况,