本文研究非线性互补问题的数值解法和约束极大极小问题的解法,构造了相应的算法,并分析了这些算法的有效性和收敛性。本文的第一章介绍了非线性互补问题和约束极大极小问题,给出了相关理论结果。在第二章中,对非线性互补函数提出了一个新的光滑逼近函数,讨论了此函数的一些性质,然后基于此函数将非线性互补问题转化成光滑非线性方程组,并给出一个解此非线性方程的非单调牛顿法,在一定的条件下证明了该算法具有局部和全局收敛性。在第三章中,对于约束极大极小问题提出两种解法,一种方法是辅助函数法,引入变量v转换极大值函数,然后得到与此约束极大极小函数等价的非线性规划问题,另一种方法是利用凝聚函数逼近最大值函数,然后利用min函数的光滑逼近函数将约束极大极小问题的KKT条件变形为光滑非线性问题,最后构造了一种新的拟牛顿法分别求解用这两种方法得到的方程组。第四章,本文提出的算法对一些例子进行了数值计算,得到的数值结果说明了算法是有效的。