论文部分内容阅读
拟牛顿法被认为是求解无约束优化问题的最有效算法之一,同时,其思想亦可以用于求解约束优化问题.大家都知道,拟牛顿方程是拟牛顿法的基础,按照出现的时间早晚可以分为原始的拟牛顿方程和新的拟牛顿方程.原始的拟牛顿方程仅仅利用了目标函数最近迭代两点的梯度差,而并没有利用函数值信息.为了能够获得更高精度的拟牛顿方程,许多专家学者对原始拟牛顿方程进行了修正或提出了新的拟牛顿方程,以便利用梯度差和函数值.
本文首先对近年来出现的一些具有较好逼近性质的拟牛顿方程进行了考察,并将它们中的一部分改写成统一的一类方程形式,该类方程包含了张建中等<[37]>的新拟牛顿方程,肖运海等<[39]>的拟牛顿方程,原始的拟牛顿方程,同时利用李董辉<[26]>的修正思想对其进行修正,得到一类修正的拟牛顿方程;其次,基于该类修正的拟牛顿方程,建立了相应BFGS型拟牛顿法,同时证明了在目标函数是凸函数的情况下BFGS算法具有全局收敛性(就新的拟牛顿方程而言,当前许多文章是在一致凸条件下证明的,这方面的工作包括文献[5],[12],[56]等).最后,本文证明了基于该类修正拟牛顿方程的BFGS算法及DFP算法的局部超线性收敛性,并对{r<,k>}的选取进行了探讨,同时进行了数值验证,得到了比较好的数值效果.