信赖域算法是求解非线性优化问题的一类重要的数值计算方法，由于信赖域算法具有良好的性质，即强适性和较强的收敛性，因此受到非线性优化研究界的广泛重视。特别是最近十多年，这种方法已经成为非线性最优化问题研究的一个热点，而求解信赖域子问题是实现信赖域算法的关键，信赖域子问题的求解直接影响到算法的稳定性及收敛性，在信赖域子问题的求解算法中，折线法（包括单折线法，双折线法，混合折线法及不定折线法等）是一类重要并且有效的算法。本文对求解信赖域子问题的折线算法进行了研究。文章分为四个部分： 第一章介绍了信赖域方法，主要介绍求解信赖域子问题的两类折线算法以及本文要做的工作。 第二章提出了一种带线搜索的自适应混合折线信赖域算法，将求解信赖域子问题的混合折线法与自动确定信赖域半径的方法相结合，并且在试探步不可接受时，采用线搜索来计算下一个迭代点，在适当条件下，证明了算法的全局收敛性，数值试验验证了新方法的有效性。 第三章在第二章算法的基础上引入了非单调技术，提出了一种带线搜索的自适应非单调混合折线信赖域算法，当计算的函数出现峡谷时，有助于减轻计算负担。在适当假设条件下，证明了算法的全局收敛性，数值结果表明新方法有效。 第四章提出了一种非单调自适应不定折线信赖域算法，当Bk不正定时，下降方向主要运用Bunch-Parlet分解来确定，不同于一般的非单调信赖域算法，新算法根据实际下降量与预估计下降量的比值按照变化的速率对信赖域半径进行调整。在一定条件下证明了算法的收敛性，并且给出了相应的数值试验结果。