非线性互补问题早在上世纪六十年代就已提出，但到七十年代末才开始真正的研究。三十多年来，互补问题已发展成一个硕果累累的学科，它广泛应用于经济、工程以及数学规划领域。 本文是对非线性互补问题算法的研究，力在提出新的求解非线性互补问题的有效算法，即不仅要证明新算法的合理性和收敛性，还要验证其有较好的数值结果。全文主要作了以下几方面工作： 一、对求解互补问题的各种算法进行综述。通过阅读大量文献简单介绍了一些目前求解互补问题比较流行的算法，包括光滑方程法、非光滑方程法、极小化方法、GLP投影法、内点法和光滑牛顿法，并对它们的研究成果作了简单列举，特别是对极小化方法和光滑牛顿法的研究基础和研究背景做了详细论述，它们将是后续工作的基础。 二、考虑互补问题的约束极小化变形这种方法。我们知道将互补问题转化为无约束最优化问题的研究已相对成熟，不仅有许多有效的算法，而且理论上也相对完备。但是对于将互补问题转化为约束最优化问题的研究还较少，本文即从这方面着手，首先提出一类新的限定互补函数，然后利用新的限定互补函数构造出一个新的求解非线性互补问题的非梯度下降算法。在证明新的非梯度算法的合理性和整体收敛性后，又和已有的相关算法进行了比较。所作的数值试验均表明本文所构造的非梯度算法对求解单调非线性互补问题是非常有效的，并在迭代次数上明显优于其他算法。 三、考虑用光滑牛顿法来求解互补问题。据作者所知，已有的文章都是利用特定的带参数的光滑函数来求解的，而本文是将方程中的光滑函数推广到一个更一般的函数，从而得到一个新的修正算法，可以证明新的修正算法在一定的假设下能保持原算法的全局收敛性和快速局部收敛性。