互补问题是优化领域中的一个经典而重要的研究课题.它在工程、经济与交通均衡等领域都有着广泛的应用.而稀疏优化是优化领域的一个新的研究课题,它的理论、模型和算法正在迅猛发展.求互补问题的稀疏解,是互补问题和稀疏优化两课题的融合,具有重要的理论和应用价值.本文初步探讨了互补问题稀疏解的一些理论,例如存在性和唯一性等,并提出了四种有效算法求解互补问题的稀疏解.主要结果概括如下：针对线性互补问题稀疏解,在理论方面,给出了Z矩阵线性互补问题稀疏解的唯一性.在算法设计方面,借助FB互补函数,提出了一个带有p(0<p<1)范数正则项的无约束极小化模型.该模型随着正则参数的减小能够很好地逼近稀疏解.随后建立了局部最优解每一非零分量的阈值下界.该下界在数值计算中,对确定零分量起到了精确的界定作用；接着考虑了如何选取合适的正则参数,使最优解达到希望的稀疏度；最后,基于以上理论,提出序列光滑梯度算法(SSG)来求解lp范数正则极小化模型.数值实验表明SSG算法能够有效地求解lp范数正则极小化模型并得到线性互补问题的稀疏解.为了进一步提高求解线性互补问题稀疏解算法的效率,我们将互补约束转化为投影形式的不动点方程,由此提出了一个带有f1范数正则项的投影约束极小化模型.紧接着给出了正则问题子问题解的阈值表示定理,并由此设计了一种收缩阈值投影算法(STP).最后,应用此算法求解上述l1正则投影极小化问题,并给出了算法的收敛性.数值实验表明,STP算法能有效的求解l1正则投影极小化模型,而且能得到]LCPs的高质量稀疏解.在求解线性互补问题稀疏解时,为了更好的逼近向量的l0范数,我们提出了一个带有l1/2范数正则项的投影约束极小化模型,进而设计了一种半阈值投影算法(HTP),并建立了算法的收敛性.最后数值试验说明HTP算法能有效求解l1/2正则投影极小化问题,并且输出LCPs的高质量稀疏解.针对非线性互补问题的稀疏解,首先提出了一种带有f1范数正则项的投影约束极小化模型,接着设计了外梯度阈值算法(ETA)并给出了算法的收敛性分析,证明了ETA算法产生的序列的任一聚点就是NCP问题的解.最后,数值实验显示ETA算法能有效求解l1正则投影极小化模型,并且能输出余强制非线性互补问题的高质量稀疏解.最后总结了本文的主要贡献,并对进一步可能的研究方向进行了展望.