扩散光学层析成像技术(Diffuse Optical Tomography,DOT)是一种新兴的无创光学成像技术,因其能够提供可以量化的功能性信息而日益受到人们的关注。生物组织的高散射低吸收特性、噪声干扰,以及测量数据不足导致的欠定性,使得DOT的逆问题呈现高度的病态性。为克服逆问题的病态性,提升重构图像的质量及成像效率,本文基于辐射传射方程,研究发展了适合于DOT的全变差相关正则化方法,对这些正则化方法解的适定性理论和其被应用于DOT问题的可行性和有效性进行了双重研究。首先,在特定的函数空间下,基于辐射传输方程边值问题的弱格式,证明了正向算子的Lipschitz连续性、可微性,并在此基础上,严格推导了正向算子的伴随导数算子的解析形式,进而给出伴随方程的定义。其次,考虑到DOT的重构目标通常呈连续或分片常值分布,因此为更好地处理解间断的情况,将能够保持边界信息的全变差正则化思想引入到DOT中来。建立了适合于DOT的全变差正则化方法,证明了正则化极小解的存在性、稳定性以及Bregman距离意义下的收敛性。在实际求解时,针对梯度的稀疏性,分别提出了求解全变差正则化的分裂Bregman算法和求解重复加权全变差正则化的分裂Bregman算法,并通过算例对这两种算法进行了对比。结果表明基于分裂Bregman算法的重复加权全变差正则化收敛快、异常体边界以及值的识别均效果较好,且在观测数据较少的情况下仍能较好地重构出参数的分布。接着,为了兼顾解的间断性和光滑性,构造了全变差与L~2范数混合正则化方法。证明了该混合正则化方法极小解的存在性、稳定性、收敛性,给出了收敛阶,借助于延迟扩散不动点算法进行光学参数重构,将此方法与全变差正则化方法和H1范数正则化方法进行了比对。结果表明了全变差与L~2范数混合正则化方法的有效性,并验证了极小解的收敛阶。最后,为同时达到保持边界和重构图像细节信息的目的,提出了全变差与L~1范数混合正则化方法。为分析全变差与L~1范数混合正则化极小解的性质,讨论了当参数空间和解空间取为Banach空间时正向算子的连续性、可微性,进而给出了当罚项取为Lp范数、Hs范数、BV范数以及全变差与L~1范数混合罚项时正则化极小解性质的说明。为进一步提高收敛速度,同时避免过稀疏化效应,设计了基于延迟扩散不动点的分裂Bregman算法,并将其与全变差正则化和L~1范数正则化进行了比较。结果表明全变差与L~1范数混合正则化不仅具有较快的收敛速度和较高的精度,还可以较好的识别边界。