论文部分内容阅读
最优化是一门应用广泛,发展迅速的学科.尤其对于非线性优化问题来说,寻找快速有效的算法一直是优化专家们研究的热门方向之一.近年来,人们提出了不少有效的算法,如:Fletcher-Reeves算法和Polak-Ribiere算法等,并试图证明它们的全局收敛性.
本文对于求解无约束最优化问题提出了一类新的下降算法Pan-Chen方法,这种方法同Dai-Yuan方法一样有很好的收敛性.结合新方法的有效收敛性以及Hestenes-Stiefel方法和Polak-Ribiere方法好的数值表现,我们又提出了两类杂交算法,在Wolfe线搜索下不需给定下降条件即证明了算法的全局收敛性.为了说明新方法的有效性,我们做了一定的数值实验,将本文算法与Dai-Yuan方法以及Dai-Yuan方法和Polak-Ribiere方法[10]的混合算法进行了比较,取得了很好的数值结果.
在第一章我们首先简要的介绍了最优化问题的提出以及判断最优解常用的最优性条件,回顾了无约束最优化问题常用的几类导数下降类算法.
在第二章中我们提出了一类新的下降算法,并且在Wolfe线搜索下无需给定下降条件即证明了算法的全局收敛性.采用文献[20]中讨论Dai-Yuan方法的基本思想,我们总结了Pan-Chen方法的一些内在性质.
在第三章中我们将提出的新算法的好的收敛性与Hestenes-Stiefel方法和Polak-Ribière-Polyak方法好的数值表现结合起来,给出了求解无约束优化问题的两类杂交算法.同样采用Wolfe线搜索,在比较弱的条件下证明了算法的全局收敛性.对于几个有代表性的问题我们做了一定的数值实验,将我们提出的新方法以及杂交方法与Hestenes-Stiefel方法,Dai-Yuan方法以及二者的混合算法进行了比较,并以非常好的数值结果说明了我们新算法的有效性.