近十年来,光学成像等分子影像模态蓬勃发展,大大推动着医学影像技术的进步。通过分子标记的特异性成像可从功能、代谢上拓展原有传统成像模态的成像能力。分子影像将不仅能使得医生看到肿瘤在体内的位置,而且还可将影响肿瘤行为以及肿瘤对药物治疗反应的特定分子的表达和活动以及生物过程可视化。这些信息都将对癌症诊断、个性化治疗、药物研发以及理解癌症如何发生发展提供有效信息。生物自发荧光断层成像是光学分子影像的一种重要模态,通过探针特异性地标记靶点从而对病灶分布进行定位和量化。　　 经过几年的研究,生物自发荧光断层成像的成像理论已初步建立起来。然而由于该成像从物理本质上是要运用成像目标表面上获取到的有限信息来估计内部生物自发荧光光源的分布,而且光子在动物组织中传播时要经历多次的散射和吸收更是增大了该问题的难度,是一个典型的病态问题。因此,如何发展新型的成像模型和算法,降低对苛刻成像条件的依赖,提高图像重建的质量、效率、鲁棒性等都是国际上一直在不断探索的新问题。本文也正是在此背景下开展了生物自发荧光断层成像技术的研究。本文从断层成像的各个技术难点和实用化需求着手,重点研究了成像技术中求解逆问题的重建算法和描述光在动物组织中传播的前向数理模型:在逆问题方面深入研究,研发多种重建技术提高成像质量与效率；在前向问题方面引入了一种新型的高阶近似模型,从数理模型上提高模型描述的精确度进而提高成像质量。此外,对多模态融合技术也做了有益的探索。主要研究内容包括:　　 ①针对现有算法不能有效提取重建光源轮廓的问题,提出了一种基于多光谱的水平集生物自发荧光断层成像算法。通过水平集函数控制光源的定位,通过在每个水平上的值来控制光源的能量密度,在迭代重建光源的位置、强度的同时,有效利用水平集的优势,重建光源的大体形状。在数值验证中,在不同的初始值和噪声水平下,本方法都能重建得到可靠的结果。小鼠仿体实验进一步证明了本方法可以用于生物医学相关成像的应用。真实实验更加全面地验证了本算法在实际应用中的有效性。　　 ②针对一些医学应用如检测淋巴癌需要全身成像的现实需求,提出了一种基于广义图割的定位生物自发荧光光源的重建算法。传统的图割算法只能解决submodular的问题,但是由于在光学成像中含有的supermodular项。因此使用了二次伪布尔最优化技术将图割技术广义化,使得图像重建的目标函数改造为可解决的形式。在数值验证上,首先与基于梯度的传统方法对比中验证了本算法在未融合光源分布大致区域的先验信息条件下可进行全域重建。在匀质、非匀质结构信息条件下以及光学参数误差存在下的数值验证从不同角度测试了本算法的成像效果。然后又通过一个真实动物实验,进一步验证了本算法在具体肿瘤机理研究和药物研发中的应用潜力。　　 ③针对现有算法在实际断层图像重建中不够鲁棒的问题,提出了一种鲁棒高效的基于动态稀疏正则化的全局非精确牛顿法。通过一个权重二次范数动态模拟稀疏正则化项来充分利用光源稀疏分布的先验信息。含有一个回溯策略的非精确牛顿法则可在多个极小值中搜索到全局最优化的结果,从而实现全身成像。在体小鼠实验表明本算法在无任何光源位置的先验信息情况下可显著保证重建的鲁棒性。该实验在小鼠和数值小鼠仿体两个模型上又进一步测试了本算法在光学参数不匹配时的表现,成像结果表明,在±50％的误差下仍可保证较可靠的重建结果。同时,本算法具有较高的成像效率。本算法在成像鲁棒性、全身成像、高效性等方面都具有良好的性能,有助于促进三维断层成像的实用化。　　 ④针对实际生物医学成像中对效率的要求,提出了一种基于并行坐标下降的图像重建算法。该算法采用了稀疏lp范数(p∈(1,2))作为正则项,且使用一个对其可导且凸的近似表达式以使得收缩更新函数具有解析形式。在实验中,本算法在不同的正则化参数以及不同的lp范数下都可鲁棒重建得到可靠结果,同时该算法可实现高效的全身成像,具有一定的实用化前景。　　 ⑤针对有些极端成像情况不再满足扩散近似前向模型成立条件的问题,引入了可较精确描述光在动物组织中传播的简化球谐近似前向数理模型,并研究了该模型在非匀质动物组织中的生物自发荧光断层成像中的表现。本文详细推导得到了高阶近似模型的有限元形式。首先在数值仿真实验中,与应用最广泛的扩散近似模型对比,在不同性质的光谱段与不同的光源位置,特别是在扩散近似模型不再完全有效的谱段以及几何结构较小的结构中,对该高阶近似模型的重建图像的质量做了测试,实验结果表明该高阶模型可显著提高在苛刻条件下的重建图像精度。在体成像实验则进一步表明了该模型在未来实际断层成像中的应用潜力。