细胞图像检测与分割是医学图像处理的重要组成部分。细胞图像具有种类繁多、染色不均匀、细胞间易形成粘连等特点。目前已有的图像检测与分割算法对边界模糊、对比度低的细胞图像进行检测与分割得到的效果并不理想。深度学习中的卷积神经网络是目前图像处理算法研究的热点,其在图像处理应用方面优势明显,但在病理细胞图像检测上的应用相对较少。水平集方法是图像分割领域的经典算法,其在细胞图像分割任务上有较大发展空间。针对细胞图像边界模糊、对比度低等缺陷,本文研究将深度学习算法与水平集方法应用于病理细胞图像检测与分割问题,提高了细胞图像检测准确率与分割准确率。本文的主要研究工作如下:(1)设计病理细胞图像检测模型。由于细胞图像内容无序,目标众多,背景复杂,为了有效提取复杂病理细胞图像的多维图像特征,本文对AlexNet卷积神经网络的结构进行改进,提出了新的细胞图像检测模型,其对乳腺病理细胞图像的检测准确率达到84.89%。(2)设计病理细胞图像分割模型。根据乳腺病理细胞图像本身的特点以及图像上部分细胞可能重叠或者变形的情况,本文基于水平集方法,建立了新的能量函数,其结合了图像边缘信息、区域信息与细胞形状先验信息,在实验中得到了较好的分割结果,其分割准确率达到 88.93%。(3)结合细胞图像检测模型与分割模型。结合细胞图像的特征与检测分割方法的各自特点,将检测模型的输出结果作为分割模型的初始化值,构建了一个完整的乳腺病理细胞图像检测与分割模型,该模型对于乳腺病理细胞图像具有较好的检测与分割效果。