在求解无约束优化问题的诸多方法中,修正牛顿法、拟牛顿法以其具有全局收敛性和收敛速度快等优点,受到人们的广泛关注。但是,相当多的修正牛顿法、拟牛顿法的研究都是基于单调线搜索技术,运用非单调线搜索技术的目前不多见。鉴于此,本文主要研究优化方法中的非单调修正牛顿法、非单调拟牛顿法。首先,我们介绍了求解无约束优化问题的修正牛顿法、拟牛顿法的相关概念,并在综述修正牛顿法、拟牛顿法和线搜索技术的研究现状和进展的基础上,我们概述了本文所做的主要工作。其次,针对牛顿法在求解一般非凸函数极小值过程中,迭代点处Hesse矩阵不一定正定的情况,提出了一种精细修正的牛顿法。该方法充分利用迭代点处目标函数的一阶、二阶信息,合适选取搜索方向,是最速下降法、牛顿法和已有修正牛顿法相混合的一种方法。在较弱的条件下建立了算法的全局收敛性。进一步的数值实验验证了提出的算法比以往同类算法计算效率更高。再次,基于非单调线搜索在寻求优化问题最优解中的优越性,提出了一类新的非单调保守BFGS算法。同已有方法不同,该算法中用来控制非单调性程度的算法参数不是取固定值,而是利用已有目标函数和梯度函数的信息自动调整其取值,以改善算法的数值表现。在合适的假设条件下,建立了新的非单调保守BFGS算法的全局收敛性。用基准测试优化问题测试了算法,其数值结果表明该算法比以往同类算法具有更高的计算效率。最后,基于修正的非单调线搜索技术,我们提出了一种新的非单调修正BFGS法,用该方法去求解光滑非线性方程组。与以往非单调线搜索不同的是,该算法中用来控制非单调性程度的算法参数不是取固定值,而是利用已有非线性方程组函数的信息自动调整其取值,以改善算法的计算效率。在合适的假设条件下,建立了新的非单调修正BFGS算法的全局收敛性。用基准非线性方程组优化问题测试了算法,其数值结果表明该算法比以往同类非单调BFGS法更具优越性。