论文部分内容阅读
本文，我们首先提出一种求解单调非线性方程组的正则化的BFGS算法和L-BFGS算法，在不假设方程组的Jacobian矩阵非奇异的条件下得到了这两种方法的全局收敛性，这些方法的一个显著优点是迭代点到解集的距离单调递减。此外，本文算法的全局收敛性证明不需要假设方程可微，因而能够用于求解非光滑的非线性方程组，与Gauss-Newton型BFGS算法相比较，本文算法中的迭代矩阵的条件数要小很多，而且，所提出的L-BFGS方法适合大规模非线性方程组的求解。我们还对这两个算法进行了数值实验，结果表明它们非常有效。 为了求解大型的一般的非线性方程组，基于Li和Fukushima的Gauss-Newton型BFGS公式，我们在第3章提出了一种非单调的谱梯度方法并建立了算法的全局收敛性定理。本文的方法是求解无约束最优化问题的谱梯度方法在求解非线性方程组中的一种推广。 其次，我们在第4章提出一种非单调的Armijo线性搜索技术并证明MBFGS方法和CBFGS方法在此搜索下求解非凸函数极小化问题的全局收敛性，在不假设迭代矩阵序列有界的前提下建立算法的全局收敛性定理。数值结果表明，采用非单调搜索的MBFGS方法比单调的BFGS方法的数值效果明显要好。 在第5章，我们提出一种求解无约束优化问题的非单调的BFGS信赖域方法并证明该方法求解非凸极小化问题的全局收敛性，该算法的优点是信赖域子问题的目标函数是一个严格凸二次函数，因而信赖域子问题的求解相对容易，而且，我们在不假设迭代矩阵序列有界的前提下建立算法的全局收敛性定理。在第6章，利用MBFGS割线条件，我们提出一种求解无约束优化问题的下降的非线性共轭梯度法并证明该方法求解非凸极小化问题的全局收敛性，该方法的一个优点是能产生不依赖线性搜索的充分下降方向。 在第7章，我们提出一种求解二阶锥互补问题(SOCCP)的光滑化的Broyden方法，利用超平面投影方法的思想，我们还提出一种求解SOCCP问题的投影牛顿法，在适当的条件下证明算法的全局收敛性。 最后我们研究Broyden方法求解Hilbert空间中半光滑算子方程的局部收敛性质。通过对广义微分引入α阶半Holder连续的概念，在一定条件下，我们证明Broyden方法具有局部的线性和超线性收敛速度。