鼻咽癌是一种流行于中国南部且具有高死亡率的恶性肿瘤,在两广地区较为常见,其发病率高居耳鼻咽喉恶性肿瘤之首。医学图像上的可靠的鼻咽癌病灶自动分割技术对于治疗计划的制定及后续的治疗评估都具有高度意义。核磁共振成像(MR影像)在检查软组织时具有高空间分辨率特点,故其常用于评估鼻咽癌的位置与形状。然而,鼻咽癌的病灶形状多变且体积较小,这使得在MR影像上对鼻咽癌病灶的自动分割成为一个难题。为了解决这一问题,基于在医学图像处理领域广泛使用的深度学习算法,本文在鼻咽癌病灶的检测与分割两个方面分别做出改进与创新。本文的主要工作如下:(1)本文提出了一个基于深度强化学习的鼻咽癌病灶检测模型。其一,针对现有的边界框相似性评价指标存在的问题进行分析,提出了一种奖赏函数,更合理地对智能体(agent)采取的动作即时地反馈。其二,本文提出了一种基于先验知识的探索算法,以合理地缩小训练初期智能体的探索空间,从而加快训练的收敛速度并提升模型的性能。(2)本文基于深度学习现有的注意力机制,提出了一个循环注意力机制,包括两个循环注意力模块,分别关注于对关键的通道与区域进行强调。循环注意力机制利用卷积神经网络深层特征中的语义信息引导浅层特征,放大与鼻咽癌病灶相关性较高的特征与区域,以提高模型表征能力。基于循环注意力机制,本文提出了一个循环注意力网络。此外,针对MR影像中鼻咽癌病灶边缘附近像素难以分割正确的问题,本文对病灶边缘使用形态学中的膨胀操作,在损失函数中对膨胀边缘中的像素放大权重,使得模型在训练时更加关注病灶边缘附近的像素,从而获得更好的分割效果。(3)本文结合(1)中的检测模型与(2)中的分割模型(循环注意力网络),形成了一个基于深度强化学习与循环注意力机制的鼻咽癌病灶检测与分割一体化模型。综上,本文提出了基于深度强化学习的检测模型、基于循环注意力机制的分割模型以及整合两者的鼻咽癌病灶检测与分割一体化模型,以更精准地分割鼻咽癌病灶。本文将所提出的方法应用于中山大学肿瘤防治中心的鼻咽癌MR影像数据,一共包含来自596名患者的1804层MR影像。实验结果显示,本文提出的方法在鼻咽癌病灶的检测与分割任务上具备优越的性能。其中,基准模型配备循环注意力机制后在Dice系数上提升了5.60%,鼻咽癌病灶检测与分割一体化模型在Dice系数上达到了80.32%。