互补问题及其解法是数学规划的重要的内容。在现实生活中经济、运输、生产等领域的许多问题都可归结为互补问题。本文在现有算法及其结果的基础上对于解非线性互补问题做了研究,从而使得解非线性互补问题算法的计算效果明显提高。对每种提出的算法,给出的数值实验结果是有效的。第一章介绍了解非线性互补问题的方法和基本理论,并且给出了一些解非线性互补问题常用的逼近函数。第二章提出了基于新的光滑逼近函数的不精确光滑化算法来解非线性互补问题,在适当的条件下建立了这种算法的全局收敛性和局部超线性收敛性,数值实验表明,算法是有效的。第三章基于给出的逼近函数提出了一种不精确Levenberg-Marquardt方法,证明了这种算法的全局收敛性,并且比较了在不同参数下算法的数值效果,从而得到对于此算法比较好的参数。第四章在雅可比矩阵奇异的情况下上述算法是失效的,因此基于上述Levenberg-Marquardt算法提出了修正的Levenberg-Marquardt方法,并且在适当条件下给出了算法的收敛性,修正后的算法对于解大部分互补问题都是可行和有效的。