最优化问题的Lanczos路径方法

来源 :上海师范大学 | 被引量 : 0次 | 上传用户:wobuwanlebuxingma
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
最优化(Optimization),就是在复杂环境中遇到的许多可能的决策中,挑选“最好”决策的科学。在本世纪30年代末,由于军事和工业生产发展的需要,提出了一些不能用古典微分法和变分法解决的问题。在许多学者和专家的共同努力下,逐渐产生、发展和形成了一些新的方法,即最优化方法。它是一门应用十分广泛的学科,随着计算机的日趋发展,以及工程设计,系统识别,管理科学等方面的不断深入,最优化的应用越来越广泛。本文将探讨用Lanczos路径方法解非线性最优化问题。 Lanczos方法,是用来求解对称方程组Ax=b的解,将对称矩阵A进行三对角化然后再利用回代技术求出方程的解。它也可以用来解特定的大规模稀疏对称特征值问题Ax=λx。该方法涉及到给定的矩阵A进行局部三对角化。重要的是,在算法过程中不会有满的子矩阵产生,同样重要的是,A的两端的特征值的信息在三对角化完成之前早得多就已经出现。 共轭梯度法是最优化中常用的方法之一,由于具有算法简便,只需要一阶信息,易于编程,以及需要存储空间小等优点,共轭梯度法已经成为求解大规模问题的一种主要方法。Bulteau和Vial在[7]中构造了无约束最优化问题的共轭梯度路径,其基本思想是将标准共轭方向法应用于无约束优化目标函数.厂的局部二次近似函数,得到一组共轭方向序列。共轭梯度路径定义为该共轭方向序列的线性组合,获得了共轭梯度路径的一些重要性质。可以证明当共轭梯度路径中的参数趋向于无穷时,产生的搜索方向即为牛顿步或者拟牛顿步,以导致算法局部超线性收敛的一个重要依据。 Lanczos方法和共轭梯度路径法的思想启迪我们,如果将二者相结合,构造一条新的路径,使得这条路径既具有Lanczos向量的性质,又具有共轭向量的性质。最优化问题的近似二次模型应用Lanczos方法过程中同时应用共轭梯度法,即对问题三对角化的同时也计算出了共轭方向序列,这样可以得到Lanczos方向序列和共轭方向序列,由此生成一条新的路径,称为Lanczos路径。此路径有类似于共轭梯度路径的一些重要性质,在合理的假设下,证明了此算法具有整体收敛性和局部超线性收敛速率。数值实验,表明Lanczos路径法对于解大型稀疏优化问题有更显著的收敛速率。 本文共分为四章。第一章简单地介绍了无约束优化,约束优化的一些基本概念;Lanczos法,共轭梯度法及信赖域方法等内容。第二章用Lanczos路径法求解线性等式约束最优化问题,通过构造原问题的零空间,将Lanczos法和共轭梯度法相结合应用于零空间中的近似二次模型,构造了Lanczos路径,利用线性搜索技术得到接受步长,证明了算法既具有整体收敛性又保持了局部超线性收敛速率。在本章最后给出了部分题目的数值结果。第三章中给出了有界变量约束优化问题的非单调预处理Lanczos路径算法,先构造预处理Lanczos路径,沿这条路径获得搜索迭代方向,利用非单调回代技术得到可接受的步长因子,从而获得新的有足够下降的迭代点。非单调能克服高度非线性化函数的最优化问题。在本章最后给出了数值结果,表明所提供的算法有效性。最后一章,对本文的工作进行总结,并提出进一步的研究方向。
其他文献
提高党的执政能力,关键在于加强党的自身建设。我们要紧密联系海南实际,始终坚持党要管党、从严治党的方针,全面加强和改进党的思想、组织、作风和制度建设,不断增强各级党
孤子方程是非线性科学领域中极具潜力的课题之一.现在已经有很多方法得到孤子方程的解.其中,Hirota方法是一种重要而直接的方法,它主要是把非线性方程化成双线性方程,然后通过摄动
从事宣传思想工作算来已有十四五年了,这些年体会最深的还是大家常说的那句话:“有为才有位。”我在宣传岗位上干了十多年,没有为权小、钱少而困扰,总是一番热情,执着工作,
图像分解和图像去噪是图像处理的两大重要课题,在最近几十年里得到快速发展。图像处理的经典模型是由Rudin, Osher和Fatemi(ROF)提出的总变差模型,它以能够保留边界的不连续
本文主要考虑一个重要的孤子方程:Boussinesq-Burgers孤子方程,运用“Hirota方法”求出了该孤子方程的精确解.本文主要分三个部分. 第一部分是引言,主要介绍了有关孤子理论和“
在初中课程中,作为“小学科”的地理学科,在很多学生看来无足轻重,对学习地理没有兴趣.针对这一现状,新课程实施以来,我把培养学生的学习兴趣作为提高教学质量的主要措施,刻
随着社会经济的快速发展,人们日常生产生活对电能需求不断加大,为供电公司带来了新的机遇与挑战,若是仍然采取传统管理模式,将难以满足社会高速发展的需求,影响供电公司为社
随着我国社会经济的飞速发展,在税收工作和税收秩序方面也得到了逐渐的改进。但是,事业单位在此方面的质量还不够到位,对会计规范的管理工作也有待提升。应采用正确的认识分
本文对线性规划新模型及影子价格进行了探讨。文章指出,影子价格是对现有资源实现最大收益时的一种估价。企业可以根据影子价格的大小,对资源的使用进行合理决策:如果在某段时期
随中国城市化进程的发展,逐步打开封闭式小区成为政策趋势,各方人群关注的焦点在于街区制能否达到提高道路通行能力的初衷.本文建立了小区开放对小区周边道路通行能力的数学