最优化方法，就是为了使系统达到最优的目标所提出的各种求解方法，它是在第二次世界大战前后，在军事领域中对导弹、雷达控制的研究中逐渐发展起来的。当今，该方法广泛应用于经济、自然、军事和生产等各个领域，对促进运筹学、管理科学、控制论和系统工程等新兴学科的发展起到了重要的作用。因此，研究此类方法的理论性质及其数值表现具有重要的理论意义和实际应用价值。 我们的研究工作主要分为两方面：无约束优化问题的求解方法和非线性对称方程组的求解方法。 第一是无约束优化问题的求解方法，包括共轭梯度法、谱梯度法、一个新的线搜索方法和拟牛顿法。1、共轭梯度法，考虑到PRP方法数值表现好，理论性质差的特点，这使我们想到以此方法为基础构造新的方法，新方法应具有较好的收敛性质且数值表现不比PRP方法逊色。基于这种思想，我们给出一种新的搜索方向的选取方法，该方法充分利用了PRP方法、梯度值和迭代点等更多的信息，在不需任何线搜索的条件下，此方法能使搜索方向具有充分下降性且自动在一信赖域里的特点，从而保证了算法的收敛性，对一般函数的全局收敛性和一致凸函数的线性收敛性将得到证明，数值结果表明了所给方法的有效性。2、谱梯度法，给出了一个谱梯度方法，在较弱的条件下，证明了所给方法的收敛性。3、我们提出了一个新的线搜索方法来研究无约束优化问题，得到了对一般函数的全局收敛性和一致凸函数的线性收敛性，并做了数值检验。4、拟牛顿法，Han和Liu[1]建立了一种求解无约束优化问题的非单调线搜索技术，并与校正的BFGS方法相结合得到了一般凸函数的全局收敛性，其超线性收敛性一直没有得到证明，本文工作的一个组成部分是对此问题进行研究并将其解决。 第二是求解非线性对称方程组的方法，1、我们提出一个求解非线性对称方程组的新的线搜索技术来寻找步长，在适当的假设条件下证明了新方法的全局收敛性和超线性收敛性，数值检验结果表明新的线搜索技术与通常的搜索技术相比较而言，具有一定的竞争力。2、分析了一个信赖域方法，建立了其收敛性结论并给出了数值检验结果。3、给出了一个非单调线搜索方法来研究非线性对称方程组问题，得到了全局收敛性并做了数值检验。4、建立了一个Gauss-Newton的BFGS非单调方法，证明了其全局和超线性收敛性，并验证了有效性。5、将通常的谱梯度方法与一个线搜索技术结合来研究非线性对称方程组问题，得到了全局收敛性。 本文共分为十一章，前四章讨论共轭梯度法、谱梯度法、一个新的线搜索方法和拟牛顿法，其中第一章叙述求解无约束优化问题的共轭梯度法、谱梯度法和拟牛顿法，讨论了该方法的具体推导过程及其相应的结论，并对当前的发展前沿进行阐述；第二章提出新的共轭梯度法和谱梯度方法，证明新方法的收敛性并给出数值检验结果。第三章和第四章研究求解无约束优化问题的一个新的线搜索方法和拟牛顿方法，第三章介绍了一个新的线搜索方法；第四章证明Han和Liu[1]方法的超线性收敛性，这使得其方法更加完善。第五章至第十章研究非线性对称方程组，第五章叙述了已有的结论和最新成果；第六章阐述新线搜索技术，证明了收敛性并检验了新方法的有效性；第七章给出了一个信赖域方法；第八章讨论了一个非单调线搜索方法；第九章建立了一个Gauss—Newton的BFGS非单调方法：第十章给出了一个谱梯度方法。最后做一个总结，并对以后的研究工作进行展望。