论文部分内容阅读
最优化方法作为寻找给定条件下目标函数最优解的数学方法,目前广泛应用于科学研究、工业设计、军事国防、政府决策和公共管理等各个领域.特别是随着计算机计算能力和数据处理能力的进一步提高,最优化方法已经成为现代社会的一个重要决策工具.在最优化方法中,无约束最优化问题的求解方法是基础,其中BFGS型拟牛顿法以其计算效率高和数值稳定性好等优点受到学者们的广泛青睐,进一步改进BFGS算法的努力从未中断,本文的工作就是在这一研究方向进行了初步探索. 本文提出了一类新的BFGS算法.受张建中和Biggs等学者工作的启发,首先对拟牛顿方程 Bk+1sk=yk的右端项yk进行了扰动,以yk*=yk+δksk代替了yk,其次,对BFGS算法中的矩阵校正格式又做了一点改进,即在项yk*(yk*)T/sTKyk*之前添加了一个动态参数γk. 借鉴Byrd和Nocedal对经典BFGS方法收敛性的证明方法,在相同的假设下,我们给出了本文算法的全局收敛性和局部超线性收敛速率.即当目标函数是二阶连续可微的一致凸函数时,我们的算法具有全局收敛性,并且具有R-线性收敛速率,这里只要求我们引入的参数满足0≤δk≤δmax,0≤γmin≤γk≤γmax即可,这表明本文算法提供了一个更一般的算法理论框架.如果进一步假设目标函数f(x)的Hessian矩阵G(x)在x*处局部Lipschitz连续,且γk=1,δk=K‖sk‖b时,我们的算法具有局部超线性收敛性,这里K和b都是常数,b≥1. 在本文的算法中,我们采用的不精确线搜索策略为仅利用Armijo准则的简单方法和后退准则. 对无约束最优化问题测试库中大量函数的计算结果表明,本文算法效率和数值稳定性都较好.通过与经典BFGS算法的比较看出,当问题的规模较大时,本文算法有一定的优势.数值实验结果还表明γk=1是保证本文算法中步长趋向于1的前提条件.