自动神经元胞体分割算法是神经图像分析工具的重要部分,可以代替人工标注高效地从神经图像中提取神经元分布、胞体形态等信息,为脑疾病和脑功能研究提供重要的数据支持。然而,已有的自动神经元胞体分割算法具有一定的局限性,难以应对大容量神经图像中的复杂亮度变化、神经元胞体形态多样性、粘连胞体、无关结构的干扰等挑战。有必要对神经元胞体分割算法展开研究,来构建快速而精确的自动神经元胞体分割算法。本文工作基于深度学习对自动胞体分割算法的准确性、计算效率等在多个方面展开了探索,主要的研究内容如下:（1）首先针对不同情况下的神经元胞体分割任务,提出了三种胞体分割算法,即Rayburst-UNet、Multi Task-UNet和Center-UNet。其中,Rayburst-UNet是针对绿色荧光蛋白标记数据中的胞体分割任务提出的,这种算法采用3D UNet进行前景提取,并结合改进的射线爆发采样算法分割粘连胞体,在GFP数据集中表现出良好的胞体定位和轮廓预测性能,胞体定位F1系数达到了0.84,平均Dice达到了0.75。Multi TaskUNet是针对Nissl数据集中胞体分割任务设计,将胞体分割任务视为轮廓检测问题,采用多任务学习模型来分割粘连胞体并预测精确的胞体轮廓,在GFP数据和Nissl数据中表现出良好的效果,定位F1系数达到了0.88以上,轮廓提取的Dice系数达到0.85以上。Center-UNet是为了应对大容量神经图像的分析,采用基于关键点检测的边界框回归算法实现了端到端胞体分割,具有较高的计算效率,在Nissl染色数据集中的定位F1系数和平均Dice分别达到了0.94和0.79,在GFP标记数据集中胞体定位F1系数和平均Dice系数分别达到了0.90和0.77。提出的三种方法具都有较好的胞体定位和轮廓预测效果,超过了现有的自动神经元胞体分割方法。（2）针对大容量神经图像应用中训练样本标注效率低的问题,提出了一种基于自训练的半监督神经元胞体分割算法,可以为数据集无标注部分自动学习伪标签并来提升模型的性能,能够有效减少训练集的人工标注工作。提出算法改进了自训练中的初始模型训练过程和伪标签生成方式,提升了胞体分割模型性能。在多种数据集中的实验结果表明,带有少量人工标注的训练集就足以支持算法训练,胞体定位F1系数能达到0.93以上,平均Dice系数可以达到0.77左右,性能较为接近带有完整标注的样本所训练的模型。（3）针对更加复杂神经图像的胞体分割任务,提出了一种基于迁移学习的胞体分割算法,利用已有的训练样本为不同的无标注数据集构建胞体分割模型。提出算法采用了无监督领域自适应框架来增强胞体分割模型的泛化能力。在不同荧光蛋白标记数据集中的实验表明,提出算法能够减少训练集和测试集的外观差异带来的影响。提出方法在定位F1系数上表现出了大约1%的提升,并且减少了目标数据集中神经突起带来的干扰。本文研究提出了多种自动神经元胞体分割算法,在不同类型数据集中表现出良好的胞体分割性能。此外,本文工作还提出了基于半监督学习和迁移学习的胞体分割算法来减少训练所需的人工标注工作,为神经元胞体分割的提供一组有效的深度学习工具。