从细胞和网络的层次上理解人脑的结构功能以及行为认知是当前系统神经科学的重要研究内容,鉴于鼠脑在结构和基因序列上和人脑有较大的相似性,因此精确有效地分割鼠脑细胞对于后续鼠脑细胞的识别、计数、跟踪和形态分析等神经科学研究十分重要。目前光学显微镜拍摄的鼠脑细胞图像往往存在数据量大和紧密度高等特点,使用传统手工分割鼠脑细胞的方法不仅工作量大、花费时间较多,而且容易因操作疲劳导致分割精度下降。随着计算机视觉技术和深度学习技术的发展,鼠脑切片显微图像自动细胞分割正成为目前系统神经科学研究的重要内容。本文针对鼠脑显微图像自动分割中存在较多噪声、图像对比度较低和数据量大等诸多影响分割精度的特点,提出了一种基于卷积神经网络(CNN)的鼠脑细胞分割模型。该模型利用包含多层小核滤波器的卷积块扩大神经网络感受野的同时通过对交叉熵函数的改进较好地解决了样本分类难的问题。为了克服CNN倒金字塔式下采样过程导致感受野过大而产生局部信息被忽略的问题,论文还通过增加融合能表征细胞形态信息的形状和颜色特征,设计了基于条件随机场(CRF)的CNN-CRF分割模型,通过将CNN预分割图像进行再处理,对图像中的每个像素构建成对关系势函数引入全局上下文信息,增加了对空间、边缘信息的约束,从而进一步提高了鼠脑细胞的分割精度。此外,论文还通过迁移学习将CNN-CRF网络模型进行了迁移,实现了对小鼠干细胞和海拉细胞两种目标较理想的迁移分割。论文提出的针对鼠脑细胞光学显微图像的改进CNN-CRF模型及优化方法能够在像素级别上有效地提取和融合鼠脑形状和边缘等特征信息,较于FCN8和SegNet等深度学习网络和随机森林等方法具有更好的泛化能力和分割精度。该方法能有效地实现鼠脑细胞的精确分割,对后续鼠脑结构与功能的研究分析具有较为重要的意义。