论文部分内容阅读
本文首先研究了一类二阶梯度系统的收敛行为,基于该系统,进一步研究了几类外插邻近算法的收敛性与收敛速度。具体研究内容如下:1.研究了一类二阶梯度系统的收敛行为及其与外插邻近梯度算法之间的关系。首先,针对一类非凸解析势函数,利用?ojasiewicz不等式,在耗散项消失足够慢的条件下,证明了该系统的解轨道是收敛的,并且轨道长度有限。然后,讨论了二阶梯度系统与几类外插邻近梯度算法之间的关系。2.研究了一类外插邻近梯度算法的收敛行为,该算法用于求解一类非凸非光滑最小化问题。利用误差界条件,在外插项系数的上确界小于一个固定阈值的条件下,证明了由外插邻近梯度算法生成的迭代序列与函数值序列都是R线性收敛的。除此之外,当问题变成凸问题时,指出外插系数的阈值退化到1,进一步说明带有固定重启策略的快速迭代收缩阈值算法(fast iterative shrinkage-thresholding algorithm,简写为FISTA)是外插邻近梯度算法的一个特例。进而,利用带有固定重启策略的FISTA求解凸优化问题时,如果目标函数满足误差界条件,由该算法生成的迭代序列与函数值序列都是R线性收敛的。3.考虑了一类外插邻近梯度算法的收敛行为,该算法用于求解一类凸优化问题。对于一大类外插系数,包括FISTA中的外插系数,证明了由外插邻近梯度算法生成的迭代序列的连续变化趋于0.利用?ojasiewicz不等式,在外插系数满足一定条件下,证明了由外插邻近梯度算法生成的迭代序列是收敛的,并且序列长度有限。4.研究了外插邻近凸函数的差算法(difference-of-convex algorithm,简写为DCA)的收敛行为,该算法用于求解一类凸函数的差(difference-of-convex,简写为DC)优化问题。对于一大类外插系数,包括带有固定重启策略的FISTA中的外插系数,证明了由外插邻近DCA生成的迭代序列的任何一个聚点都是DC问题的一个平衡点。进一步,在目标函数满足一定条件下,利用Kurdyka-?ojasiewicz不等式,建立了外插迫近DCA的全局收敛性,并且分析了它的收敛速度。外插邻近DCA的有效性通过对带有DC正则函数的最小二乘问题做数值实验得以验证。