胶囊神经网络是近几年提出来的以向量为基本单元的新型神经网络模型,其特点是能够有效学习图像中实体之间的空间层级信息。深度胶囊神经网络则是胶囊模型研究的重要组成部分,是一种新兴的深度学习模型,其研究还处于初期阶段,存在诸多有待解决的问题,其中包括:缺少适合深度结构的胶囊路由算法、缺少合理的网络架构、模型参数需求量过大、缺少有效的胶囊正则化方法等。为进一步推动深度胶囊神经网络的理论完善,本文针对上述这些问题,进行了如下几个方面的深度研究。（1）提出了张量胶囊路由算法与正则化方法。该算法中,胶囊以张量为基本结构,用卷积实现不同层级胶囊之间的变换。在耦合系数的计算过程中,本算法以张量胶囊为基础,对其进行改进。针对胶囊的正则化问题,提出了基于张量胶囊的dropout方法,该方法可以随机的将张量胶囊中的部分数据屏蔽,促进网络提取更为鲁邦的胶囊信息。实验表明,张量胶囊路由算法与正则化方法适合构建深度胶囊网络,有效提高了胶囊模型的分类性能。（2）提出了基于稠密胶囊连接的深度胶囊网络架构及轻量化方法。该架构借鉴稠密卷积网络的思想,采用模块化设计,在每个模块中,胶囊层之间通过稠密胶囊连接,这种连接一方面可以大量的增加胶囊层,实现更为深度的模型,另一方面使块内的胶囊层成为紧密的整体,有利于梯度的反向传播。为缓解由于层数的增加而带来的参数压力,进一步提出了多种轻量化方法。其一,针对张量胶囊路由,采用卷积可分的思想,将路由中的卷积计算分为多个阶段,每个阶段采用参数更少的卷积实现,有效降低了张量胶囊路由对参数的需求,提高了参数的利用率;其二,从架构入手,胶囊层采用卷积作为胶囊的变换运算,全部胶囊层均采用张量胶囊路由实现,提出了基于稠密胶囊架构的全张量胶囊网络,该网络参数更少并且不会随图像尺度的扩大而增加;其三,针对稠密胶囊网络中作为分类器的全连接胶囊层,将底层胶囊投影到一个中间的低维度空间,然后再从底维度空间投影到高层胶囊空间,提出了一种两次投影的轻量化方法,可以以少量的性能代价,获得有效的参数压缩。以上方法的有效性均得到实验验证。（3）提出了一种基于多管线处理机制的多信息胶囊网络及其轻量化方法。该网络根据胶囊的理论,基于多管线处理机制,每个管线由独立的深度胶囊神经网络构成。每个管线均能够处理不同的图像信息,并在交叉节点的帮助下,实现不同信息的交互。同时在多信息胶囊网络中构造了决策器机制,实现每个管线输出结果的融合。为进一步轻量化多信息胶囊网络,提出了基于复合胶囊的两级分类轻量化方法,该方法首先用复合胶囊实现一级粗分类,然后利用一个单层神经网络去解码复合胶囊,以得到更细粒度的分类。最后结合两级的分类结果,得到最终的输出。实验表明,多信息胶囊网络及其轻量化方法能够以极少的参数开销,获得优秀的网络性能。（4）提出一种基于特征变换的胶囊路由算法。首先,该算法将每个低层胶囊用矩阵映射到高层胶囊空间;然后,根据特征变换机制,将其映射后的胶囊调整为预测向量;最后使用可训练的路由函数,来计算耦合系数。为减少冗余的胶囊数据,进一步提出了一种新颖基于注意力机制的胶囊池化方法。实验表明,基于特征变换的胶囊路由算法和基于注意力机制的胶囊池化方法能够显著提高深度胶囊网络的分类性能。