宫颈癌是一种高致死率的妇科疾病,严重危害着女性的健康。目前,针对宫颈细胞的处理方法的核心技术主要包括三大步骤,分别是细胞分割、特征提取和特征融合、细胞分类。传统的宫颈细胞处理方法的性能很大程度上取决于分割的准确性和手工制作特征的有效性,且任意一个环节的处理都会影响最终的检测效果。目标检测算法将目标分割和识别合二为一,不需要任何的预分割步骤,只要能够保证检测算法的有效性,就能够保证最终的检测效果,加上深度学习具有非常好的应用前景,因此,本文利用深度学习的目标检测算法进行宫颈癌细胞检测研究。鉴于RetinaNet目标检测算法在目标检测领域的优越性,本文将其作为基础算法进行研究。首先在Retina Net算法的基础加入多尺度卷积结构,提取更多尺寸的目标特征,避免目标特征提取不全面,进而优化算法的检测效率;其次,为增加实验数据的多样性,使得模型能够适用更多的场景,使用了数据增强技术,最后,在进行实验训练的时候使用迁移学习方法,用以提高模型的训练速度。由实验结果可得,通过加入多尺度卷积结构的Retina Net算法在宫颈细胞图像数据集中检测精度取得了61.58%的m AP,相比原始的Retina Net算法(m AP=58.37%)提高了3.21%。在加入了多尺度卷积结构的基础上,本文再引入SE模块,通过对特征通道进行权重分配来让模型更关注信息量大的通道特征,而抑制那些不重要的通道特征,实现了模型算法检测精度的进一步提升,取得了63.40%的m AP。为了验证改进算法的优越性,本文最后对YOLOv4和Faster R-CNN进行了实验,二者的m AP值分别为58.40%和55.28%,由此可见,本文提出算法在检测精度上更具优势。