论文部分内容阅读
最优化是一门应用性很强的学科。近年来,随着计算机的发展以及实际问题的需要,大规模优化问题越来越受到重视。于是,快速有效的算法成为研究的热门方向。最优化问题分为无约束最优化问题(古典的求函数极值问题)和带约束最优化问题,对最优化问题的研究是近年来运筹学的热门问题,在经典最优化问题的基础上许多国内外学者对算法进行了改进和创新,提出了一大批新算法。对于约束最优化问题的研究一直是优化专家们研究的热门方向之一。其中比较著名的有二次规划、逐步二次规划法、罚函数法、信赖域法、约束变尺度法和可行方向法等。在约束最优化问题的算法中怎样寻找有效的下降方向是构造算法的重要内容,在寻找下降方向方面可行方向法中的投影梯度法有效的解决了下降方向的寻找问题,利用线性约束问题边界点的任意方向在边界上的投影都是可行方向,而负梯度方向的投影就是一个下降方向。60年代初Rosen提出投影梯度法的基本思想,自从Rosen提出该方法以后,对它的收敛性问题不少人进行了研究,但一般都是对算法作出某些修正后才能证明其收敛的,直到最近对Rosen算法本身的收敛性的证明才予以解决。投影梯度法是最速下降法对约束问题的推广,因此没有较快的收敛速度,为了解决这个问题很多中外学者把发展得比较成熟的无约束最优化算法作类似的推广,其中共轭梯度方法是近年发展的很成熟的方法,它具有计算简单,算法结构好,计算量少,具有良好的收敛性等优点,而Rosen投影梯度法的提出使寻找下降方向变得简单。本文提出基于投影梯度法与无约束最优化问题的下降类算法相结合的几类新算法。使新算法将无约束最优化问题的下降类算法推广到线性约束最优化问题。在第一章我们简要的介绍了最优化问题的提出以及判断最优解常用的最优性条件,回顾了最优化问题的几类主要算法。在第二章中我们把一种新的共轭梯度法(HS-DY混合共轭梯度法)与Rosen投影梯度相结合,提出了线性等式约束最优化问题的一种新算法。并在Wolfe线搜索下证明了算法的收敛性。在第三章中我们将无约束问题的一类下降算法与Rosen投影梯度法相结合,将其推广到线性等式约束最优化问题,提出了线性等式约束最优化问题的一类投影下降算法,并提出了基于这类算法的混合算法,在Wolfe线搜索下证明了这两类算法的收敛性,并通过数值试验验证了算法的有效性。在第四章中我们提出了线性不等式约束最优化问题的一个投影梯度算法框架,做了数值试验,但其收敛性还有待进一步研究。