医学图像配准是医学图像处理研究领域的一个重要任务和技术难点,对于图像融合、检测肿瘤生长等临床工作有重要意义。图像配准旨在寻找将一幅图像映射到另一幅图像的空间变换。传统的配准方法迭代优化每一对图像的目标函数求解空间变换,存在配准时间长、计算量大的问题。近年来,随着深度学习在医学图像研究领域的广泛应用,基于深度学习的图像配准成为极具前景的研究方向。基于深度学习的有监督配准方法虽然在配准速度与精度方面都有所提升,但是获取监督学习所需的标签信息仍困难重重,这推动了基于深度学习的无监督配准方法的发展。本文主要研究的是基于深度学习的无监督配准方法,解决三维医学图像非刚体配准问题。本文提出了三种不同的无监督配准方法,均使用卷积神经网络直接预测输入图像对之间的形变场,插值后得到配准图像。与传统配准方法相比,本文提出的方法具有端到端完成配准、无需迭代的优点,能够实现精确、快速的配准。（1）本文首先提出了基于3D卷积神经网络的无监督端到端配准方法LNet,该方法通过反向传播图像相似性和梯度信息优化网络参数。网络设计中提出了并行卷积的大卷积核模块LKB,该模块将普通的大卷积核分解,增大网络感受野的同时限制参数量的增加,有利于配准大幅度局部形变。在公开大脑数据集和心脏数据集上的配准实验结果证明了 LNet的配准精度可与最先进的方法相媲美,同时配准速度更快。（2）考虑到仅依靠图像相似性和梯度信息优化网络参数,无监督配准约束不足,在LNet的基础上,本文提出了基于3D卷积神经网络的无监督循环配准框架CIRNet。CIRNet提出了一个新的配准优化目标:将浮动图像配准到固定图像,然后再将配准结果配准回浮动图像,应得到原始的浮动图像。基于该优化目标,CIRNet引入了循环一致性约束,即m→G（m）→F（G（m））≈ m。循环一致性约束为无监督学习提供了额外的“自我监督”。在公开大脑数据集和心脏数据集的大量实验证明,CIRNet的配准精度超过了包括SyN和BSpline在内的传统算法以及其他深度学习配准算法。循环配准结构和循环一致性约束可以显著提高无监督配准算法的准确性。（3）基于循环配准框架CIRNet,本文提出了用于多模态配准的双通道配准模型CIRNet-2ch,为无监督的多模态图像配准提供了新思路。该方法使用双通道网络分别提取不同模态的图像特征再进行融合,通过循环一致性约束多模态图像配准。本文使用临床数据心脏CT-MR图像进行多模态配准算法评估,标注心脏轮廓点进而比较不同的配准方法结果,实验证明本文提出的多模态配准方法CIRNet-2ch表现最好。