目前,人们通过探究不同的细胞谱系来深入地研究细胞重编程的机制原理。本文研究的细胞谱系为小分子诱导成纤维细胞分化为多功能干细胞。该谱系的细胞在培养过程中,细胞形态和位移变化较大,相应地识别单个细胞,预测细胞能否成功分化有较大难度,目前尚未有人以高准确率的方法实现该谱系细胞的预测。本文提出了一种全新的细胞谱系预测的方法:采用实时成像的方式,拍摄细胞分化的全过程,通过深度学习方法学习出不同细胞的形态差异,从而对细胞能否成功分化进行预测。该方法相比于传统的人工判别,准确率较高。本文的主要工作分为如下三个方面:(1)细胞谱系图像的识别和切割。本文使用优化后的边缘检测算法对图像中的单个细胞对象进行边缘识别,利用识别出的边缘坐标自动地将单个细胞切割成细胞图像块。(2)细胞谱系图像的异常检测和差异性特征提取。本文提出了在细胞图像分类任务中,首先对原始数据进行异常检测,根据异常检测的结果有针对性地采用数据处理和数据增强方法。同时,本文利用反卷积网络可视化和特征筛选的方法找出不同种群细胞之间的5个差异性特征,分别为DNA强度、纹理熵、纹理相关性、DNA质量上四分值和图像对比度。这有利于生物科学家在细胞培养实验中更好地区分不同种群细胞。(3)基于深度学习的细胞谱系图像预测。本文在AlexNet卷积神经网络上加入Batch Normalization层,形成AlexNet-BN。相比于原始的AlexNet网络,它降低了图像像素特征之间绝对差异对结果的影响,强化了像素特征之间的相对差异,因此更适合本文的细胞谱系图像分类任务。同时,针对阴性细胞数据量较少,不足以支持卷积神经网络训练的问题。本文将ImageNet数据库上学出的深度网络迁移过来,并在此基础上进一步优化,使其自适应源域和目标域之间的差异。实验结果表明,该方法在少量的细胞图像训练集上便取得了较好的分类效果。同时,在公共的眼底疾病数据集和肺炎X光图像数据集上也具有较好的分类性能。