宫颈癌是危害女性健康的恶性肿瘤之一,液基细胞学检查是预防和早期检测宫颈癌最通用的筛查方式,其目的在于,通过对宫颈脱落细胞制片,发现可能癌变的非典型细胞。在临床情况下,可以看到宫颈液基细胞学图像中感染、炎症等非癌性病变和已经癌变的细胞,宫颈液基细胞学图像中的细胞结构是女性宫颈健康状态病理学分析的基础。目前,宫颈细胞学图像主要依靠病理医生诊断,但诊断过程中常受图像染色差异、背景复杂度和噪声干扰等客观因素影响,并且还受医生个人经验判断等主观因素影响。而临床宫颈细胞图像中细胞类型多样、背景复杂、细胞重叠度高等特点,为细胞分割带来了极大挑战。基于此,本文针对宫颈临床液基图像中重叠细胞、细胞团簇中重叠细胞核的分割难题展开一系列更为深入的研究,论文的主要工作如下:（1）针对临床宫颈细胞图像中细胞类型多样、背景信息复杂、细胞重叠度高、准确分割细胞边界难度大的问题,本文提出一种基于定位约束的生成对抗式重叠细胞分割方法LCBranch-GAN。首先,为了将细胞从重叠区域中分离出来,可以将细胞图像的分割问题看作是一个过滤无效图像信息的过程,以定位核作为约束限定分割对象,其定位信息作为生成对抗网络的生成约束条件,促使网络只聚焦于定位核所指定的细胞图像区域;其次,利用LCBranch-GAN网络强大的生成能力,通过其生成器与判别器的对抗训练,生成逼真的单细胞图像;最后,利用生成的单细胞图像在原始图像上提取细胞图像,由此得到的细胞图像既保留了原图中的纹理特征,又具有丰富完整的边界信息。可视化实验结果表明,LCBranch-GAN网络对重叠细胞的分割结果符合人眼识别细胞的轮廓效果,在严重重叠的细胞区域,即使细胞边缘信息模糊甚至无法人眼分辨,LCBranch-GAN网络的分割结果没有受到明显的影响。与四种先进分割方法进行量化对比,结果显示无论在自有数据集还是ISBI2015数据集上,LCBranch-GAN网络都表现出了最优性能,完成了临床宫颈细胞图像中重叠细胞区域的分割任务。（2）由于临床宫颈细胞图像中包含大量高聚集的细胞团簇,其内部细胞严重变形、重叠,图像对比度低,为细胞核分割带来了极大挑战。本文提出一种基于门控上下文感知信息的高聚集细胞团的核分割方法GCP-Net。该方法基于编码-解码结构网络,其编码路径采用Resnet-34预训练模型优化网络训练速度,特征提取模块利用多尺度上下文门控和全局上下文注意力模块来细化特征图细节,实现对编码模块输出信息的有效信息加权关注;解码路径采用融合残差学习的解码模块对跳跃连接带来的低阶语义信息构建远程依赖关系和全局上下文交互,以期细化预测掩码获得良好的核分割效果。分别在Clustered Cell数据集和三个典型的医学组织学图像公开数据集上与七个现有优秀分割模型进行充分的比较实验。实验结果表明,与一些目前最先进的分割网络相比,GCP-Net在AJI、Dice和PQ三个评估指标上都获得了提升,既体现了GCP-Net在自有数据集上的优越性,也说明GCP-Net网络针对其他类型细胞图像分割具有优越性和通用性,达成了分割临床宫颈细胞图像中细胞团簇的核分割任务。（3）高聚集性细胞团簇中细胞核严重重叠时,其分割结果会存在掩膜联通的情况,这将为后续病理诊断带来假阳性病例。本文结合重叠细胞核边界相交的曲率变化特点,提出一种基于弯曲损失的双解码网络重叠核分割方法BLoss-DDNet。首先,为增加对细胞轮廓的约束,构建一个基于编码-解码结构的双任务解码分支网络,编码模块融合残差学习和SE注意力模块进行特征提取,解码模块采用掩膜分割任务分支和轮廓分割任务分支构成双任务分支结构;其次,利用网络架构搜索方式对双任务分支中的解码块进行最优化架构搜索,分别得到掩码分割任务分支解码模块和轮廓分割任务分支解码模块;随后,双任务分支之间采用注意图特征融合模式提升轮廓敏感性;最后,融合损失函数约束网络训练过程,弯曲损失函数作用于轮廓分割任务分支上,对图像弯曲损失大的图像进行惩罚。本文进行了深入广泛的消融实验,并在自有数据集Clustered Cell、公开数据集Mo Nu Seg上,与其他七种先进的分割网络做了对比实验。实验结果证明,本文提出的BLoss-DDNet方法在AJI、Dice和PQ三个指标上均获得了最佳性能,成功解决了临床宫颈细胞图像中细胞团簇重叠细胞核的分割难题,为后续临床诊断提供了有力保障。