本文的主要内容包括医学中张量成像问题的求解、一类自由边界问题的求解以及二阶锥互补问题解的性质的理论研究.核磁共振成像已经被广泛的应用在各种临床治疗中.扩散张量成像(Difusion Tensor Imaging)是通过求解一个扩散张量的特征值来成像的技术.但这一理论总假设水分子在人体中的扩散是高斯型的.而在有纤维交叉的人体组织中,扩散张量成像技术无法正确显示各个纤维方向.本文研究扩散陡度成像(Difusion Kurtosis Imaging)模型,该技术利用一个4阶3维张量W的特征值来成像.以一类广义互补函数的性质为基础,利用该类互补函数将求解扩散陡度张量W的特征值问题重构为一类广义非光滑方程组,并设计光滑牛顿型算法求解该方程组,在适当的假设下,该算法的全局收敛性被证明.最后的数值结果表明该方法是有效的.本文也利用互补问题求解自由边界问题.在将一类自由边界问题重构为一类非李普希兹连续的非线性互补问题的基础上,引入plus函数的一类广义光滑函数,分析其性质,然后利用该光滑函数将所得的互补问题重构为一系列光滑方程组,并设计一类带非单调线搜索的光滑牛顿型算法来求解该方程组以得到原问题的解.在很弱的条件下,该算法的全局收敛性和局部二次收敛性被证明.最后的数值结果显示该算法是有效的.互补问题的应用非常广泛,而现实中的许多问题均可归结为二阶锥互补(SOCCP)问题.虽然二阶锥互补问题的理论与算法已经有许多的研究,但所研究的互补问题以单调互补问题为主.本文在二阶锥上引入一类新的非单调映射,称之为笛卡尔P_*(κ)映射,它是单调映射的推广,并讨论涉及这类映射的二阶锥互补问题的解的存在性和解集的有界性.在严格可行的假设下证明该类问题的解集是非空有界的.