基于参数自适应调比和修正割线方程的有限记忆BFGS算法

来源 :重庆师范大学 | 被引量 : 0次 | 上传用户:irugi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
有限记忆BFGS(broyden-fletcher-goldfarb-shanno)方法主要用来求解大规模无约束优化问题,是最有效的拟牛顿方法之一,该方法利用存储一定量的向量对去克服拟牛顿方法需要存储大量矩阵的缺点,同时还保持了良好的收敛性质.本文从目标函数的曲率信息、方法的全局收敛性和计算效率角度来考虑,结合初始调比方法和割线条件的特点,基于Barzilai-Bowein步长因子、对角预处理子和DL共轭条件,以及Biglari、Kou、Khoshgam等提出的各类修正割线方程,提出了两类初始调比参数自适应选取的有限记忆BFGS方法和一类修正割线方程的有限记忆BFGS方法.初始调比方法仅仅只需要在第一次迭代时调比0,对于曲率变化比较平稳的问题,该方法既简单又有效.本文在Dai-Kou通过结合Barzilai-Bowein思想为子空间极小化共轭梯度(SMCG)法选择一个合适参数的基础上,对两类Barzilai-Bowein步长因子进行加权组合;在Andrei对标准BFGS更新公式中的第三项进行调比,以减小极小化函数近似Hessian阵的大特征值的基础上,结合对角预处理子和DL共轭条件调比BFGS,从而为有限记忆BFGS方法中Hessian阵近似的逆引入两个调比正因子,还建立了这两种调比方法在一致凸问题上的全局收敛性.数值实验表明这两类基于初始调比参数自适应选取的有限记忆BFGS方法相较于标准有限记忆BFGS方法是具有一定优势的.为了充分利用目标函数的函数值信息和梯度值信息改进标准割线方程,本文通过结合Biglari等提出的高阶张量模型和Kou、Khoshgam等各自提出的割线条件,提出一类基于带有参数的修正割线方程的有限记忆BFGS方法.在Wolfe线搜索下,证明了修正有限记忆BFGS方法对于一致凸函数是具有全局收敛性的,且收敛率是-线性的.数值实验结果表明修正有限记忆BFGS方法优于标准有限记忆BFGS方法.
其他文献
随着现代科学技术和计算机的发展,数值计算已用到科学技术和社会生活的很多领域。非线性Gilson-Pickering方程和非线性改进Boussinesq方程是描述孤立子波传播过程的两类非线性发展方程,这两类方程的解析解不容易得到,使得在数学建模、理论分析方面都具有很大的难度。研究者们希望能找到求解这两类方程的高效数值计算方法,无网格方法在当下计算科学研究中是热点之一,其中配点法是一种较成熟的无网格方
算子方法是研究q-级数问题的有效手段之一,本文在已有成果的基础上用q-指数算子对q-级数进行研究,主要内容如下:1.本文从q-Chu-Vandermonde公式出发,使用q-指数算子作用于一些有理函数,再应用q-指数算子的相关性质,得到了相应的q-指数算子恒等式,并给出了相关的递推公式.2.使用q-指数算子作用于q-二项式定理,q-Chu-Vandermonde公式得到了一些q-级数恒等式,并且由
准确分割图像是图像处理的一项重要任务。在实际应用中,如何将含有噪声、灰度不均等复杂图像进行有效分割仍是一个具有挑战性的问题。到目前为止,已有很多图像分割方法被提出,其中,基于偏微分方程的图像分割方法凭借其独特的优势以及广泛的应用场景成为研究热点之一。本学位论文主要关注的是几何活动轮廓模型。这类分割模型自提出以来受到了国内外学者的广泛关注,对其从不同角度进行了研究和改进,但仍然存在一些待解决的问题,
用分数阶微分方程建立的数学模型具有自身的独特优点,这些优点是整数阶微分模型无可替代的。分数阶微分方程往往在信号处理、系统控制、物质反常扩散和热传导等领域乃至黏弹性流体力学、生物学、磁力学等众多学科有着广泛的应用。特别是具有记忆性、反常扩散现象和黏弹性现象的物理问题、化学问题和生物种群问题均可用分数阶微分方程建模。在这些大背景下,本文主要研究了时间分数阶反应-扩散方程和分数阶单摆模型的解及其动力学性
环境噪声对种群系统的干扰是无处不在的,环境小扰动通常用白噪声来描述,较大扰动大多由马尔科夫链来刻画。同时,最优收获策略对生态系统的开发、管理和利用具有重要意义。基于此,本文主要研究了两类具有混合随机噪声的种群系统的动力学行为,包括系统解的适定性、随机持久性、随机稳定性等,并得到了两类随机三种群系统的最优收获策略。主要内容如下:在第一部分,建立了一类具有混合噪声、分布时滞的浮游植物-浮游动物-鱼三种
创新发展战略是推动我国经济转型升级、促进社会经济可持续发展的重要举措。企业是经济发展的主体,对经济发展起到极其重要的决定作用,所以作为经济发展主体的各类企业必须有高质量的改革举措或创新成果,才能创造出最优的发展质量以及最大的经济效益。企业生产经营创新的根本还是人的创新,组织中领导风格的不同又会对员工的创新行为和创新意愿产生较大地潜在影响。因此,基于此种事实背景,通过对已有的相关文献进行梳理,结合现
当前现代智能系统的结构愈来愈复杂,而在系统发生故障时要找出失效原因的过程中所涉及的问题大多存在不确定的因果关系,我们有必要进一步研究此类不确定因果关系信息。动态不确定因果图(Dynamic Uncertain Causality Graph,DUCG)能用图形化的方式呈现系统中的各种因果关系,它在故障诊断、安全分析、风险评估、预测等诸多领域的广泛应用得到了国际上越来越多的认可。本文主要研究了动态不
近些年来,神经网络的同步在保密通信、图像处理、模型识别等领域有着极其广泛的应用。竞争神经网络作为一种特殊的神经网络,它的同步控制问题引起了人们的广泛研究。在实际应用中,通常要求系统能在有限时间内实现同步。所以对竞争神经网络的有限时间同步问题的研究非常有必要。此外,系统在演化过程中不可避免地会受到外界环境的影响,这些通常会对系统的同步造成严重的影响。因此,本文将综合研究在不连续激励函数、时滞、脉冲效
对数域类群结构和类数的研究以理想的理论和方法为基本特征,研究结果在数域论中发挥着重要作用.类数是数域K的重要不变量,可视为OK与主理想整环差距的度量,能够反映元素在唯一分解法则下的稳定程度,而类群可视为对由数扩张到理想这一过程的度量.三次数域是代数数论中非常重要的研究对象,对其类数和基本单位的研究都是代数数论的中心课题,本文对一些特殊三次域的类群结构和类数,以及基本单位上界的估计进行了研究.对于非
众所周知,共轭梯度法由于其结构简单、存储量小等特点,在工程问题、金融模型等许多实际领域中得到了广泛的应用.然而,对共轭梯度法的研究仍存在一些具有挑战的问题,如所有共轭梯度方法的下降性、非凸函数的全局收敛性、Dai-Liao型共轭参数的最优选取等.因此研究共轭梯度法的理论性质和数值结果具有重要的理论意义和实际应用价值.共轭梯度法的共轭条件、充分下降性和极小化条件数是加速实际计算的三个重要因素.因此,