宫颈癌是严重威胁女性健康的恶性肿瘤,早期宫颈癌细胞筛查有助于患者及时预防和治疗,利用计算机技术对宫颈癌细胞图像进行识别辅助医生完成诊断成为目前研究的热点之一。但是宫颈癌细胞的识别技术面临着许多问题严重影响识别的准确率,比如细胞重叠,背景含有与宫颈癌细胞无关的细胞或杂质。为了解决上述问题,本文基于深度学习对宫颈癌细胞识别进行研究,主要的研究内容如下:（1）提出一种基于改进的圆周卷积的宫颈癌细胞分割算法。为解决分割算法中矩形边框定位不精确、像素分割计算量大的问题,该算法在目标检测的矩形边框基础上,采用基于混合注意力机制改进的圆周卷积提取细胞八边形轮廓上点的特征,以提高网络分割精度。应用混合注意力机制,让网络更加关注细胞重叠的区域以及远离细胞边界的点,进而提升宫颈癌细胞分割的精度。最后使用SIPa KMe D数据集验证算法的性能,经实验验证本文的分割算法优于其他算法,并且与专业医生分割结果作对比,具有较好的分割效果。（2）提出一种改进的胶囊神经网络的宫颈癌细胞分类算法。该算法采用VGG-16网络改进胶囊神经网络的卷积层,提取宫颈癌细胞图像的多尺度特征,提升胶囊神经网络的特征提取能力。主胶囊层和VGG-16存在冗余的图像特征信息,在主胶囊和数据胶囊层之间通过增加自注意力更新动态路由算法,使胶囊着重关注对分类有用的显著特征,进而提高宫颈癌细胞的分类准确度。最后在分割后的数据集上验证本文的分类算法,实验结果表明,该方法的准确率高于其他算法。