本文主要研究非单调信赖域方法．目前，信赖域方法和线性搜索方法是求解非线性优化问题的两类主要的数值方法．与线性搜索方法相比，信赖域方法思想新颖。具有可靠性，有效性和很强的收敛性．鉴于信赖域方法的优点，由它来构造新的优化方法成为非线性优化界许多学者关注的焦点．但是人们发现：在实际计算中，对于某些问题单调算法并不能保证算法的有效性. 1986年，Grippo等人<[19，20]>提出了一种非单调线搜索，并将此技术分别运用到Newton法和截Newton法中． 1993年，邓乃扬等人<[21]>首次将非单调技术应用到信赖域方法中。在一定条件下证明了其全局收敛性和超线性收敛性，数值试验表明对某些问题，非单调信赖域方法比相应的单调算法有更好的数值结果.以上提到的非单调技术都是以为参考函数值来实现的，其中m(0)=0，0≤m(k)≤min[m(k-1)+1，M]，M是给定的正整数．但是，这种非单调技术对于某些检验函数其数值结果依赖于M的选取．为此，柯小伍，韩继业<[22]>提出，在某一步后，每试探一步要求当前点的函数值与前不固定(如M<,k>+1)个点中函数值最大的进行比较，而且M<,k>可进行调整；Toint<[23]>给出了自适应非单调信赖域算法NMTR2，在此算法中参数M是由算法本身隐式定义的，而不是某一预先给定值；Zhang H C和W．W．Hager<[26]>提出了一种新的非单调线搜索方法，也很好的避免了上述缺点．另外，1980年，Davidon<[28]>剑首次提出锥模型，它比二次模型更一般．鉴于以上工作的基础上，本文提出了两类新的非单调信赖域方法． 第一章，我们首先简要的介绍了最优化问题的提出以及判断最优解常用的最优性条件。其次回顾求解无约束最优化问题的线性搜索方法和信赖域方法的基本思想及其研究成果． 第二章，我们提出了一类拟牛顿非单调信赖域方法．不同于传统的非单调信赖域算法，此算法在每步都采用非单调Wolfe线搜索得到下一个迭代点.这样得到的新算法不仅不需重解子问题，而且在每步迭代满足拟牛顿方程同时保证目标函数的近似海赛阵Bk的正定性．在适当的条件下，证明了此算法的全局收敛性和Q-二次收敛性．数值结果表明该算法的有效性． 第三章，我们提出了一类基于锥模型的非单调信赖域算法．基于二次模型的相应算法是该算法的特例．该算法克服了用于产生非单调性的参考函数值依赖于某一正整数M的缺点．当试探步不被接受时。采用非单调线搜索，从而减少了计算量．在适当的条件下,证明了该算法的全局收敛性和Q-二次收敛性．数值试验证实该算法是有效的．