非线性优化是计算数学与运筹学的交叉学科.非线性优化在国防、经济、金融、工程、管理等许多领域有着广泛的应用.许多科学和工程问题，如大气科学中的同化问题、生命科学中的蛋白质折叠问题、信息科学中的模式识别问题、地球科学中的反演问题等往往都是大规模和高度非线性的.因而迫切需要我们研究出高效的求解非线性优化问题的数值计算方法.　　信赖域方法是求解非线性优化问题的一类非常有效的方法.锥模型信赖域方法是基本信赖域方法的推广，本文系统研究锥模型信赖域优化方法.　　我们首先讨论了求解无约束优化问题的非单调回朔锥信赖域方法.相对于传统的信赖域方法，新方法中的子问题采用锥模型.同时我们加入非单调技术来加速算法的收敛性，在一定条件下证明了算法的全局收敛性.数值试验表明算法是有效的.　　我们还提出了求解无约束优化问题的基于简单锥模型的非单调自适应信赖域方法.我们用数量矩阵替代Hesse矩阵或其近似.新算法简单，容易实施，节省了存储量，并且有效地降低了计算复杂性.在一定条件下，我们证明了算法的全局和局部收敛性.数值试验表明新算法对大规模无约束优化问题比较有效.　　受仿射调比信赖域方法的启发，我们提出了求解界约束优化问题的锥仿射调比信赖域方法.它是基于二次模型的仿射调比信赖域方法的推广.我们给出了新方法中模型函数的下降界，并且在信赖域方法的框架下证明了新算法的全局收敛性.数值试验表明新算法是有效的.　　最后，我们给出了求解界约束优化问题的组合非单调锥仿射调比信赖域和线搜索方法.当新点不被信赖域接收时，我们用线搜索方法找到新的迭代点，这在一定程度上减少了计算量.在一定条件下我们证明了算法的全局收敛性，数值试验表明新算法是有效的.