病理诊断是疾病的最终诊断,在其他医学影像不能确诊时只能通过病理学进行诊断,而细胞核的精准分割则是病理诊断的基础。通过人工进行细胞核分割和疾病评估极为耗时,且不同专家评估结果也会产生主观差异,因此,近年来,细胞核的自动分割也逐渐成为人们研究的重点。在病理图像中由于不同组织的干扰、染色剂浓度不同、染色时间差异以及细胞核重叠等问题给细胞核自动分割任务带来了巨大的挑战。为了减少因染色造成的颜色差异给分割带来的困难,首先对病理图像颜色进行归一化,使得所有图像颜色分布相同,且图像结构不发生变化。针对细胞核前景分割,本文提出两种方法:一种基于测地线活动轮廓模型,通过自适应阈值方法得到细胞核的粗分割,然后通过水平集演化方式得到精细分割;另一种方法是基于深度学习的网络模型,利用残差结构和扩张卷积有效提取图像特征信息,在不降低图像分辨率的前提下对细胞核进行精准分割。病理学是依据单个细胞核的形态进行诊断分析,但在病理图像中细胞核会出现重叠的情况,因此在得到细胞核前景分割结果后,需要对重叠细胞核进行分离。本文根据单个细胞核具有凸性结构,而重叠细胞核凸性结构被破坏的假设,通过凸性分析将重叠区域分离出来,再对重叠区域进行凹点检测,得到不同细胞核的重叠点,以此来分离重叠的细胞核。本文方法在三个不同的数据集上进行了测试,并对所提方法进行了定性和定量的分析,在公开数据集上两种方法的Dice分数分别为0.81、0.801和0.845、0.821。实验结果表明,本文方法可以准确分割细胞核前景并有效解决细胞核重叠问题。