据《2018年宫颈癌发病率及死亡率的全球评估报告》显示,宫颈癌是女性第四大常见的癌症。由于人口基数大,诊疗资源不足,我国已成为宫颈癌发病和死亡人数最多的国家。目前,TCT是筛查宫颈癌的有效方法。该方法主要依赖病理医生的人工诊断,不仅工作量大,而且存在大量的误诊、漏诊,造成我国宫颈癌发病率居高不下。近年来,人工智能与病理学跨域结合,实现了宫颈癌智能辅助诊断系统,有效地减少了医生的工作量,提高了诊断的准确率。异常细胞的检测是该系统的核心任务,十分重要且面临诸多挑战。这些挑战包括:（1）宫颈细胞涂片样本图像内容复杂,宫颈异常细胞检测难度大;（2）受图像染色、细胞粘连等因素影响,宫颈细胞核质分割难度大;（3）目前,机器学习算法在训练和识别时将所有样本的所有细胞放在同一个标准下衡量,降低了细胞分类的准确率;（4）宫颈病理图像标注成本高、公开数据集少,不同类别间数据分布极不均衡。为解决上述问题,本文提出了如下解决方法:1.提出了一个名为SER-DC YOLO的目标检测网络,解决了复杂图像中的宫颈异常细胞检测问题。首先,在YOLO v5的Backbone中增加注意力机制,提高了ROI的特征显著性;然后,使用可变形卷积替换SPP中的普通卷积,提高网络的泛化能力;最后,幂化边界框回归损失函数,提高网络的抗噪性能和边界框的预测精度。实验表明,SER-DC YOLO网络降低了宫颈异常细胞检测的错检率、漏检率。2.提出了一个名为CE-GAN分割网络,解决了宫颈细胞核、细胞质的精确分割问题。首先,通过粗分割模块中的改进后的分水岭算法提取细胞质粗糙轮廓图;其次,利用指导因子生成模块中的Pix2pix网络生成细胞质精细轮廓图;然后,在细分割模块中引入细胞质精细轮廓约束CE-Net模型的训练;最后,通过CE-Net模型是实现宫颈细胞的核质分割。实验表明,CE-GAN网络能够利用边界因子信息提高细胞质的分割精度。3.提出了一种基于样本基准值的宫颈细胞综合分类方法,解决了宫颈异常细胞重分类问题。首先,根据SER-DC YOLO模型的预测结果对宫颈细胞图进行裁剪,获得各类细胞的Patch图。然后,对正常鳞状上皮细胞进行分层,根据TBS宫颈细胞分类标准从中层鳞状上皮细胞中筛选出基准细胞,利用CE-GAN分割结果配合诊断指标计算公式计算样本基准值。最后,计算宫颈异常类细胞的基准系数,训练特征分类器,实现宫颈异常细胞重分类。实验表明,本文提出的方法能有效排除假阳性细胞,提高宫颈异常细胞的检测准确率。4.提出了一种半监督分类方法,解决了在数据不平衡情况下的微生物感染细胞分类问题。首先,利用清晰度评价函数对标注数据进行筛选。其次,使用筛选后的数据训练得到多个深度学习分类模型,按特定策略分配模型权重并对不同模型进行组合。然后,利用组合模型预测无标签数据的类别,筛选置信度较高的“伪标签”数据扩充训练集。最后,通过随机下采样、数据增强操作平衡训练集数据,继续训练分类模型。实验表明,该方法能够有效挖掘无标签数据中隐藏关联,提高了微生物感染细胞的分类准确率。综上所述,针对宫颈癌智能辅助诊断系统研究中的技术难题,本文提出了有效的解决方法。这些方法融入了病理知识和医生诊断知识,覆盖了目标检测、图像分割、图像分类等技术领域。经实验证明,本文方法能够有效提高辅助诊断系统检测异常细胞的性能。