共轭梯度法已有五十多年的历史,它最早是由Hestenes和Stiefel于1952年在求解线性方程组时提出的,并由Fletcher和Reeves于1964年推广到非线性优化领域.随后,Beale,Powell,Fletcher等著名的优化专家对非线性共轭梯度法进行了深入研究,取得了十分优秀的成果.但几乎同时间世的拟牛顿方法由于其良好的计算表现以及丰富的收敛性分析很快受到了青睐,从而在很长一段时间里共轭梯度法被研究者所忽视.近年来,随着计算机的飞速发展以及实际问题的需要,大规模优化问题越来越受到重视,而共轭梯度法正是求解大规模问题的一种主要方法.于是,共轭梯度法的理论研究又受到人们的关注. 本文在共轭梯度法的已有成果的基础上,对共轭梯度法进行了较为深入地探讨,得到了一些收敛性结果,丰富了共轭梯度法的理论分析.此外,还提出了几种新的共轭梯度法,增加了共轭梯度法的广度. 本文对近年来受关注的非线性共轭梯度法进行了研究,主要研究结果归纳如下： 1.第一章介绍了非线性共轭梯度法的基本知识、前人所得的共轭梯度法全局收敛性的部分结果以及本文的主要工作. 2.第二章提出了求解步长因子的一种新的线性搜索方法在此线搜索的基础上,提出了一种HS方法和DY方法相结合的混合共轭梯度法,并证明了算法的全局收敛性. 3.张秀军在文献[1]中提出了一种改进的可以控制步长的新线性搜索并在此线搜索下证明了DY方法的全局收敛性.结合HS方法好的数值表现和DY方法好的收敛性,本文在此线搜索下提出了一种混合的HS-DY共轭梯度法,并证明了算法的全局收敛性. 4.为了充分利用当前迭代点和前面迭代点的信息,以便改进算法的性能,保证算法具有全局收敛性,Cantrell J W.于1969年提出了记忆梯度法,它是共轭梯度法的一种变形与改进.本文在文献[2]的基础上提出了一类记忆梯度法,在强wolfe线搜索下对算法的全局收敛性进行了分析,且当目标函数一致凸时还讨论了其线性收敛速度.新算法推广了文献[2]的算法.