随着近年来基因技术、分子成像技术的快速发展,光学层析成像技术正成为重要的分子成像技术,在生物医学研究中发挥着重要的技术支撑作用。　　 辐射传输理论研究光在介质中的能量传播规律,其基本方程称为辐射传输方程(RTE,Radiative Transfer Equation)。辐射传输方程或其扩散近似形式作为正问题模型被广泛应用于光学层析成像中。传统的辐射传输方程通常假设背景介质的折射率为常数。但均匀折射率的假设在很多实际情况下难以满足,比如生物组织中与组织的微观结构相关的非均匀折射率分布。因此,研究变折射率情况下的辐射传输方程有其重要的应用意义。　　 生物医学光学层析成像,如DOT(Diffuse Optical Tomography)、BLT(Biolumninescence Tomography)和FMT(Fluorescence Molecular Tomography),都需要测量样本表面的出射光强以重建内部的光学系数或光源分布。在这些成像技术中,数据的测量方式极大地影响重建图像的质量。早期使用基于光纤的接触式测量方法,要求光纤头与组织直接接触或使用匹配溶液简化被测体的几何轮廓。这种方法不但系统构成复杂,实验操作要求高,而且获得的数据量有限,无法得到具有实用意义的重建图像,因而未广泛推广。为克服基于光纤的接触式测量方法的缺陷,近年来出现了基于CCD等平面光强探测器的非接触式测量方法。该方法的理论基础是自由空间中的非相干光传播理论,其描述的是光从物体表面到CCD平面的自由空间传播过程,已有的理论尚不能很好地刻划生物医学光学层析成像中复杂样本表面多重反射产生的影响。　　 现代生物医学成像技术正经历从单一成像向多模态成像及其融合的发展过程。光学层析成像作为一种功能成像,具有较高的灵敏度,但其空间分辨率不高。而XCT、MRI等结构成像可以提供较高的空间分辨率,但对软组织的分辨能力较弱。已有的多模态成像融合研究多是将不同模态的光强探测模块集成在同一系统中,依次采集不同模态的测量数据,并将其他模态重建的高分辨率图像作为先验信息加入到光学层析成像的重建中。这种方式虽然增强了单一模态的重建图像质量,但没有充分利用不同模态重建图像信息的互补性,实现不同模态之间的信息交互。　　 本文从辐射传输理论出发,结合生物医学成像技术中的实际问题,开展了以下研究:　　 1.研究了变折射率介质中的辐射传输理论,提出了一个新的基于光程函数表示的辐射传输方程。首先给出了一个光线管微元中的能量守恒的基本方程,从该基本方程出发结合几何光学的光线方程澄清了前人研究中对光线散度以及立体角微元两个物理概念的数学描述,最后通过数学推导给出了基于光程函数表示的变折射率的辐射传输方程。　　 2.研究了生物医学光学层析成像中复杂样本表面多重反射产生的影响和解决方法,提出了通过在已有的理论中引入双向散射函数刻划多重反射的方法,并应用Monte Carlo模拟验证了所提出的方法。实验结果表明,如果物体表面的散射属性是漫反射,则已有的非接触式测量理论与实验结果相吻合(相对误差<0.07);如果其反射属性是镜面反射,则已有理论与实验结果有较大误差(相对误差>0.35)。非接触测量技术是现代生物医学光学层析成像技术的主流数据测量方式,该结果为复杂样本表面情况下的非接触测量方法提供了重要的理论指导。　　 3.研究了XCT和DOT光学层析成像中重建图像的相似性和互补性,阐述了光学层析成像与XCT成像的算法融合问题,首次提出了运用相对熵刻画两种模态的信息交互,并给出了基于superorization理论的重建算法。我们假设在算法层次进行融合重建可以利用XCT的空间分辨率优势来增强DOT重建图像的边缘对比度,数值模拟实验结果验证了该假设的正确性。数值实验中,融合算法重建出的病变部位DOT吸收系数和散射系数分布较单一模态重建有显著改善,其最大值相对误差分别降低了20％和4%。本文提出的基于相对熵的融合算法为解决不同模态成像方式的信息交互问题提供了全新的思路,对现代医学成像技术的发展有重要的推动意义。