论文部分内容阅读
信赖域算法是求解非线性优化问题的一类重要的迭代方法,它可以解决非线性方程、非线性估计、无约束和约束优化以及非光滑优化问题。此外,在大规模优化问题中,信赖域算法也有很好的应用价值。信赖域算法由于其在收敛性和稳定性方面的优点,近二十年来得到最优化学者的广泛关注。
信赖域算法的发展可以追溯到Levenberg和Marquardt对于非线性最小二乘问题的研究。现在大部分关于信赖域的算法都致力于考虑如何解决子问题,以更好地提高算法效率。如果单纯考虑子问题,从理论观点来看,引入调比矩阵是没有意义的,也即对子问题算法的构造和分析时,选择Dk=I即可。但是为了较好地解决信赖域问题,我们希望寻找一个更可“信赖”的区域,使得二次模型在这个区域内能够充分接近目标函数。因此,考虑到实际问题中的目标函数的性态往往十分“糟糕”,调比矩阵的引入将是十分必要也是十分重要的。本文中,假设二次模型能够较为准确地反映目标函数的一阶和二阶导数信息,我们提出利用这些信息构造调比矩阵Dk来调整“信赖域”。在无约束优化信赖域方法中,我们给出两类意义明确,简单易行的调比算子,并讨论其收敛性,通过数值试验来检验我们的观点。
此外,我们还把无约束信赖域的调比方法推广到简单界约束问题,数值试验也表明很好的效果。