荧光原位杂交(Fluorescent In Situ Hybridization,FISH)是一种分子细胞遗传学技术,它可以在细胞水平上诊断癌症和遗传疾病并提供可靠的成像生物标志物。识别FISH图像中的癌细胞的一个先决条件就是准确地分割细胞,从而才能量化每个细胞内的DNA/RNA信号。但是对于FISH细胞图像而言,人工标注的数据是极其宝贵的,因此通常只能获取少量的标注数据。此外,在对FISH细胞图像进行自动化分割的时候通常会因为染色剂的染色不均、图像的低对比度、细胞的弱边界以及细胞粘连等问题的存在,使得很多自动化分割算法都难以准确地分割出目标细胞。针对以上问题,我们就FISH细胞图像分割开展研究,主要工作如下:1)提出了一种针对FISH细胞图像的深度卷积分割算法。首先,为了能够提升卷积神经网络模型的分割速度,巧妙地利用1×1卷积核和合适的卷积通道数来降低模型参数,从而提高了细胞分割效率;其次,为了能够准确地分割FISH细胞图像,我们将原图中的底层特征信息融入到了对称网络模型之中,并改进相关的损失函数,从而提高了细胞图像的分割精度。2)提出了一种基于细胞中心点的分水岭算法作为后处理,从而能够有效分离相互粘连的细胞区域。细胞分割结果中可能会出现目标细胞相互粘连的情况,不同于U-net网络利用权重预处理来指导损失函数去分离细胞边界,我们首先利用深度学习训练得到细胞中心点网络模型,用以识别细胞的中心点。随后,利用识别的细胞中心点作为一种先验指导信息,结合分水岭算法对粘连细胞进行分离。以这种后处理的方式,可以有效地将相互粘连的细胞得以分离。3)提出了一种基于生成对抗网络(Generative Adversarial Nets,GANs)的半监督细胞分割算法。标记医学细胞图像是一个极其繁琐的过程,因此我们利用一种半监督学习的策略,来减轻卷积神经网络对大量标签数据的依赖。在训练过程中,利用生成对抗网络迫使生成器(分割网络)与判别器(判别网络)相互对抗学习,使得分割网络可以利用更多的无标签细胞数据,从而提高分割精度。