在计算机视觉领域,随着计算机运算效率的提升,促进了深度卷积神经网络的跳跃式发展,可以有效地从大量原始训练数据输入中获取特征表示。但是卷积神经网络得到的感知表征是不会随着平移、视角变化而改变,具有特征不变性。此外,具有池化的卷积神经网络也会无可避免的带来特征损失。胶囊网络作为一个新颖深度学习模型,其独特的胶囊式特征表示形式在一定程度上弥补了卷积神经网络的缺陷。由多个神经元构成的胶囊以向量形式表示特征中部分-整体的空间位置关系,并对特征变化具有等变性。胶囊层间采用动态路由算法更新胶囊,取代卷积神经网络中的池化操作,有效遏制特征的不良损失。但由于胶囊网络发展历程较短,仍存在一些不完善之处,如在彩色RGB数据集（如CIFAR-10、SVHN等）上的表现不佳、研究应用领域待扩展等。针对这些问题,本文围绕胶囊网络,从优化模型的连接模式和图像生成应用两方面入手,改善其在彩色数据集上分类精度和拓展其应用领域。本文主要工作如下:1.研究了深度学习中一个新颖的分支——胶囊网络。介绍了胶囊网络的研究背景,总结文献中提出的胶囊网络模型的任务类型、研究目标。着重介绍胶囊网络的最新国内外进展,从模型架构、层间路由算法和应用领域等多角度对现有先进模型进行分类探讨。最后总结了胶囊网络目前潜在的应用领域及研究方向。2.研究了基于胶囊级密集连接深度胶囊网络模型——Dense Caps。胶囊网络对彩色RGB数据集的特征解析能力未能充分发挥,在图像分类任务中表现不佳。针对此问题,本文从胶囊级特征角度考虑,并受到密集卷积神经网络中特征级联、密集连接的启发,实现胶囊级特征级联,胶囊级密集连接,加强胶囊级特征重用,丰富空间特征信息,减少特征无效损失;提供丰富的反向传播梯度流,对浅层子网产生更好的优化;最后利用层次损失组合,融合各个密级胶囊块的特征损失,使浅层和深层特征得到充分反馈;并用胶囊级正则来构造稀疏性,避免模型过拟合。为证明模型的有效性,从消融实验、对比试验、参数量分析、显著性检验不同角度进行详细论证,实验结果表明,该模型架构在图像分类上具有可竞争性的性能表现。3.研究了具有嵌入式自注意力子网的胶囊网络构造生成对抗网络模型——SA-Caps GAN。卷积神经网络缺乏指示图像中特征空间位置关系的能力,仅通过丰富的特征描述实现图像生成目标中的判别任务。针对此问题,本文提出了将自注意力机制嵌入胶囊网络并作为生成对抗网络的判别器的融合模型,从增强判别能力的角度提升图像生成能力。该模型通过胶囊网络加强了对图像特征空间的解析能力,再利用自注意力机制突出显著区域特征表达,并提供长范围依赖,增强特征利用率,促进特征的有效向量化判别。为证明模型的有效性,从视觉图像质量、损失函数、Inception Score和Frechet Inception Distance评价指标进行详细分析。实验结果表明,该模型架构在图像生成任务中在收敛速度、生成图像清晰度等方面具有性能提升。该论文有图20幅,表8个,参考文献83篇。