互补问题自1963年首次提出后受到广大研究者的重视，成为数学规划研究中较为活跃的分支，求解互补问题的算法的研究领域也取得了丰硕的成果。本文研究非线性互补问题的非精确解的算法；针对求解其线性子问题的精确解的困难，提出求其非精确解的方法，从而减少计算量。一方面，基于光滑Newton法的思想和半光滑的理论，利用Fischer-Burmeister互补函数的光滑形式，将非线性互补问题转化为光滑非线性方程组求解，从而得到非线性互补问题的光滑非精确Newton法，数据结果表明算法的有效性。另一方面，基于信赖域方法有较好的可靠性，在解决大型非线性互补问题时更有效，利用Fischer-Burmeister函数的光滑逼近函数将非线性互补问题转化为无约束优化问题求解；文中将信赖域方法和非单调Wolfe线搜索相结合，提出一种非单调非精确信赖域算法，在线性系统的子问题的求解中采用共轭梯度法得试探步的非精确解；在试探步不被接受时，采用非单调Wolfe线搜索得到下一个迭代点，使得算法不需要重新求解信赖域的子问题。在一般情况下，证明了算法产生的点列包含在一个水平集中，在此水平集是紧集的条件下，算法产生的点列至少有一个聚点是非线性互补问题的解；在算法求得的解是BD-奇异解的条件下，证明了算法产生的点列收敛到惟一点，且有全局和局部超线性收敛速度。