随着计算机科学技术的飞速发展,肿瘤放疗进入到了一个精准治疗的时代。图像引导放疗可以在提高放射剂量杀死肿瘤组织的同时,有效保护肿瘤周围的正常组织,极大提高了患者的生存率和生存质量。放疗中,肿瘤专家和放疗物理师需要对肿瘤靶区和临近风险器官进行精确勾画,从而可利用计划系统进行放射治疗仿真,获得患者在理想状态下的受剂量。利用计算机作为工具,并结合有效的医学图像分割算法,实现肿瘤和风险器官的高效、自动化分割,从而取代低效率的手工分割和传统的分割技术,已成为提高放疗效率和精度的关键技术。而不同的医学影像特点、不同的人体部位的结构构造都为肿瘤和器官的精确分割带来相当大的困难。深度学习技术由于其高度的表征和判别能力在各图像处理领域都取得了不错的效果。本文主要针对癌症病人放疗中不同部位人体多风险器官的自动化分割进行了深入研究,致力于提高风险器官的分割精度和效率,为临床中存在的勾画效率低、不一致等问题提供潜在的自动化分割算法。本文的主要工作包括以下几个方面:1.大小、形状差异大的多器官分割任务中,尤其是在软组织对比度较低的计算机断层扫描（Computed Tomography,CT）图像中,难以精确的检测到器官的完整形状。然而,头颈部中软组织、风险器官众多,例如脑干、腮腺、下颌腺、咽部、喉部等,稍有偏差的器官勾画将导致放疗治疗产生严重的副作用,在分割结果中保持精确和完整的器官形状具有重要意义。为了实现头颈部多器官的高效联合分割,在提出的分割框架中集成形状表示模型,通过在待分割器官二值标签上进行预训练,学习各器官的形状特征。同时建立基于残差块的U型网络作为分割网络,在分割网络的训练过程中,利用已预训练的形状表示模型将分割结果和对应的标签投影到高维形状特征空间中,将其之间的差异作为正则项约束分割网络的训练过程,以引导分割结果中的器官形状符合标签中的器官的形状特征,从而实现差异大的多个器官的精确、联合分割。该算法在公开的头颈部CT数据集上进行了训练和测试,验证了其在提升器官形状一致性上的有效性,并证明了该分割框架的精度和计算效率方面的优势。2.尽管形状表达模型在高维形状空间中缩小了分割结果和标签之间的形状差异,分割网络在图像空间中实现像素级的分类,而缺少对分割结果全局关系的评估和约束。针对基于低场强核磁共振（Magnetic Resonance,MR）图像引导的头颈部癌症放疗中多风险器官分割问题,提出基于密集连接网络和对抗训练机制的分割框架。该框架结合了基于密集连接块的分割网络,基于卷积神经网络（Convolutional Neural Network,CNN）的判别器,以及形状表示模型。其中,基于密集连接块的分割网络实现像素级的图像分割,预训练的形状表示模型约束分割网络分割结果形状,判别网络实现图像级的输入图像和分割结果的整体评估。形状表示模型和判别网络的引入分别从高维形状特征空间和图像层面对分割网络的训练进行约束,进一步增强分割网络的性能和分割结果的有效性。该分割框架分别在从临床中获取的低场强MR数据集和公开CT数据集进行了验证,两组实验结果都证实了该方法在处理不同影像模态下头颈部多器官分割问题上的有效性。3.可获取和利用的医学影像数据量往往有限,这限制了复杂3D医学影像分割网络的训练,并容易造成过拟合。多器官分割数据量少,完整的多器官标签更是难以获取。利用注意力机制增强与目标相关的有用特征,弱化冗余特征,在不会大幅增加网络复杂度的前提下,提高网络学习能力,成为实现基于有限训练数据集的多器官分割网络的理想选择。本文提出在分割网络的基础上,在残差块中同时引入通道间注意力模块和空间注意力模块,分别对通道和空间的特征关系进行建模并重新进行校准,以增强有效特征,弱化无效特征,从而增强网络的判别能力,提升分割效果。该方法在公开头颈部CT数据集上对分割性能进行了评估,并与其他分割算法进行了对比。而且,在放疗过程中病人多时相CT数据集上的实验结果表明,分割模型可以有效检测到放射治疗过程中病人头颈部风险器官的大小体积变化,达到了监控病人的治疗效果的目的。4.针对腹部多器官分割中,部分器官体积大,位置相对独立,无粘连,而部分器官体积小,形状不规则,与周围器官粘连严重,难以准确区分,不同的器官分割难易程度差异大,本文引入任务级自步学习机制,网络训练过程中,对不同器官的分割进程进行评估,根据分割进程在损失函数中对不同的器官行进行加权,直至模型整体进入成熟阶段。同时,针对器官粘连、形状不规则、边界模糊等问题,在损失函数中引入边缘损失,以增强分割网络边缘检测能力,提升分割边缘的完整性、一致性。该方法在公开的腹部CT图像数据集上进行了验证,实现了8个腹部器官的联合分割,对分割效果较差的器官上提升明显,边界完整性也有较大提升,实验结果证实了所引入的任务级自步学习机制和边缘损失的优势。5.基于提出的头颈部CT图像多器官分割网络,开发自动化分割插件,并集成到了临床放疗软件系统中,实现了扫描数据输入、自动化分割和分割结果可视化等操作一体化,大大提高了多个风险器官标注的效率。同时,经过多次试用,该分割插件的分割性能和可靠性获得了临床中剂量师和放疗医生的高度评价和肯定。