脑胶质瘤是最常见的原发性脑部恶性肿瘤,各肿瘤区域的精确分割和定量分析对诊断和治疗至关重要。由于不同患者脑肿瘤区域的形状、位置、恶性程度都存在差异性,为了充分利用多模态脑肿瘤核磁共振成像(Magnetic Resonance Imaging,MRI)的空间信息实现准确组织分割,研究了基于三维卷积神经网络(3D Convolutional Neural Networks,3D CNN)的脑肿瘤MRI自动分割算法,主要研究内容包括:(1)针对脑肿瘤形状、位置及大小的不一致性,本文提出了一种基于双通道三维密集连接网络的脑肿瘤自动分割算法。算法基于3D CNN,在两个通道采用不同大小卷积核,在不同尺度感受野下提取多尺度特征,接着利用各通道的密集连接块进行特征学习与传递,通过特征结联后输入到分类层进行目标体素分类,最终实现脑肿瘤的自动分割。实验结果表明,算法在各肿瘤区域具有较高的分割精度,相比于Deep Medic的分割结果,对肿瘤核区域的分割Dice系数提升了0.06,对增强型肿瘤区域的分割Dice系数提升了0.031。(2)针对3D U-Net对部分微小的肿瘤区域以及肿瘤边界存在的误分割现象,本文提出一种基于密集连接增强的3D U-Net脑肿瘤分割算法。算法基于3D U-Net结构,利用卷积代替最大池化实现下采样;上下文模块中加入了密集连接块,加强特征复用,提升网络效率;设计了一种新的上采样方案代替原有的插值、转置卷积等上采样方法。实验结果表明,改进后的分割网络能够保留多级特征,提取到更丰富的多尺度特征用于体素类别预测,相比于3D U-Net的分割结果,对肿瘤整体的分割Dice系数提升了0.009,对肿瘤核的分割Dice系数提升了0.07,对增强型肿瘤区域分割Dice系数提升了0.096。(3)针对脑肿瘤图像中分割子区域类别不均衡造成的误分割现象,本文提出一种基于感兴趣体素(Volume of Interest,VOI)优化的脑肿瘤分割算法。算法分为两步进行,首先进行肿瘤区域粗分割,提取出肿瘤整体区域作为VOI;然后将VOI与多模态MRI融合,仅对VOI进行子区域细分割。实验结果表明,该优化算法能够有效减少类别不均衡造成的欠分割、过分割现象,提高各肿瘤子区域的分割精度。优化后的第四章算法对肿瘤核心区域的分割Dice系数提升了0.012,对于增强型肿瘤区域的分割Dice系数提升了0.011。