互补问题作为数学规划研究领域中的一个重要分支,由于其应用的广泛性自1963年首次提出后便引起了众多研究者和学者的广泛关注和浓厚兴趣,在其后的几十年里,无论是互补问题的理论研究领域还是算法研究领域都取得了丰硕的成果.在阅读了大量的文献资料,掌握了互补问题的基本理论和各种算法思想的基础上,本文进一步分析、研究了非线性互补问题的光滑牛顿算法.光滑牛顿算法的一般思想是首先利用互补函数将互补问题转化为一系列与其等价的非光滑方程组,再利用互补函数的光滑逼近函数构造一系列光滑方程组,然后利用牛顿法来求解这一系列方程组,从而得到互补问题的解.本文的主要工作是:一方面利用最大最小值函数将互补问题转化为一个与之等价的不动点再生方程组,由于这个不动点再生方程组的非光滑性,通过使用凝聚函数将非光滑的不动点再生方程组转化为一个光滑方程组,由此设计了一类求解互补问题新的光滑牛顿算法,并分析证明了算法的全局收敛性、超线性收敛速率和二次收敛速率.数值试验也进一步说明了这类算法的有效性;另一方面,对于现有文献中针对某种特殊互补函数提出的求解互补问题的修正Jacobian光滑牛顿算法进行了推广,给出了互补函数及其光滑逼近函数应满足的一般条件,引入了一个新的互补函数,新的互补函数包含Fisher函数和二元极小值函数,利用引入的互补函数设计了一类新的修正Jacobian光滑牛顿算法,新算法使用了不同于现有文献的新的控制函数,该控制函数同时包含了已有文献中的控制函数,最后对修改后的算法进行了数值实验,数值试验进一步证明了这类算法的有效性.