论文部分内容阅读
稀疏约束优化问题是指带有稀疏约束的一般非线性优化问题.这类问题在回归分析、信号和图像处理、机器学习、模式识别等领域有着广泛的应用,引起了人们的极大关注,成为近十年最优化及其相关领域的一个热点研究课题. 稀疏约束使得该优化问题产生了组合特征,是一个NP-难问题.一般来讲,连续优化的理论通常不能用于处理该类问题,但是稀疏约束集合的特殊结构也为我们的研究提供了一个新的机遇.本文主要研究稀疏约束优化的最优性理论.借助于可行集的切锥和法锥,由特殊到一般,由简单到复杂,从单有稀疏约束的优化问题到稀疏锥规划逐步深入地研究其最优性理论,提出约束规范并建立最优性条件.这些结果,在某种程度上,丰富了非连续非凸规划问题的最优性理论,并提供了算法的理论保障. 针对单稀疏约束优化问题,给出稀疏集的Bouligand和Clarke切锥以及Fréchet和Clarke法锥的表达式.由此建立了两个一阶最优必要条件:N-稳定性和T-稳定性.然后给出该问题的二阶最优必要条件和充分条件.将上述结果推广到稀疏非负约束优化问题,给出其N-稳定点和T-稳定点以及二阶最优条件. 针对稀疏非线性规划问题,首先定义了两个限制的约束规范并用其得到了问题的可行集的Fréhet,Mordukhcvich和Clarke法锥分解形式.基于这样的分解,提出并分析了问题的三类Karush-Kuhn-Tucker(KKT)条件.最后建立了问题的二阶最优必要条件和充分条件. 针对稀疏锥规划问题,通过引入限制形式的严格Robinson约束规范,建立了一阶最优性条件.进一步,计算了稀疏集的外二阶切集.由此给出了二阶最优必要条件和充分条件. 针对稀疏非负约束优化问题,引入限制强凸性和限制强光滑性,进一步研究了α-稳定点,B-稳定点,C-稳定点和局部以及全局极小点之间的递推关系.利用Armijo-型的步长准则,提出了改进的迭代硬阈值(IIHT)算法.通过自动调节步长,在一定的条件下,算法收敛于问题的局部极小点,能够在有限步内识别最优解的支撑集,且迭代点列及其函数值都具有线性收敛速度.大量的数值实验表明算法具有很好的数值效果.