用二次模型逼近原优化问题的信赖域算法因其较强的适应性和收敛性成为优化算法中一类重要的数值计算方法。然而,对于非二次性态强、曲率变化比较剧烈的函数,二次模型信赖域算法显得力不从心。近年来,锥模型信赖域算法的研究引起了普遍关注,尤其是2005年新锥模型信赖域算法的提出,不仅弥补了二次模型信赖域算法的缺陷,而且突破了传统锥模型信赖域算法只在平面一侧求解函数最优值的局限。因此本文主要研究新锥模型信赖域算法的子问题求解和算法框架本身的构造与改进,利用锥函数的参数特性,结合非单调策略,提出新的自适应调节信赖域半径,给出了可以求解大规模问题的新算法,而且每一种新算法的提出,都是对前一种算法的改进与完善。最后,给出一种的新水平向量,数值试验验证了该水平向量的有效性。本文共分六章,第一章主要介绍了信赖域算法的基本思想,二次模型和锥模型的研究现状。第二章介绍了锥模型信赖域算法的理论基础,及新锥模型信赖域算法的子问题求解,并给出了部分锥函数性质定理的有关证明和几种经典的优化测试问题。第三章结合新锥模型子问题的折线法求解算法,提出了一种非单调的新锥模型信赖域算法,该算法是二次模型信赖域算法和传统锥模型信赖域算法的推广。将新算法与二次模型信赖域算法、传统锥模型信赖域算法比较得到了较好的数值结果,并证明了新算法的全局收敛性和超线性收敛性。第四章给出了一种新的调节信赖域半径方法,提出了自适应的新锥模型信赖域算法,该算法弥补了非单调锥模型信赖域算法中的不足。证明了算法的全局收敛性。第五章提出了一种新锥模型信赖域算法的混合算法,用新算法对大规模的测试函数进行检验,得到了理想的数值结果,从而有望解决大规模优化问题,并证明了新算法的全局收敛性,最后,给出了数值实验的结果分析。由于锥模型逼近也是算法改进的一个方向,考虑到水平向量参数选择的重要性,本文在第六章利用二次模型与锥模型拟牛顿条件的近似等价性,提出了一种新的水平向量,将该水平向量应用于新锥模型信赖域算法得到了较好的数值实验结果。