医学图像配准是医学图像处理领域中一个重要、基本的研究课题，是医学图像融合、重建以及标准图谱建立等研究的基础。由于人体结构的复杂性，很多组织器官都是复杂的弹性体，简单的刚性配准无法表示人体复杂结构的局部细节。而这些细节却是临床诊断中很重要的依据，因此必须采用具有更高自由度的非刚性配准技术。非刚性配准是医学图像处理的重要研究课题。同刚性配准相比，非刚性配准还不成熟，如何建立合理的形变模型，适合各种复杂的组织变形；如何提高非刚性配准的速度、精度以及对非刚性配准的评估都需要进一步的研究。 非刚性点配准是基于特征的配准方法中最基本、最主要的问题，是基于线、面等配准方法的基础。本文在对非刚性配准技术深入研究的基础上，提出了一种较为通用的非刚性点配准方法。算法具有较高的鲁棒性，且实现了配准过程完全自动化。然后将其应用到3D脑图像配准和可形变概率图谱的建立中。具体成果和创新点介绍如下： (1)提出了一种基于Levelset方法的双表面延伸算法，实现了脑皮层和脑沟带的自动、稳定及强鲁棒性的分割。提取待配准图像中的某些特征量是基于特征的配准方法的前提。本文在深入研究各种分割方法的基础上，对其中一种分割效果较好的算法，即几何活动轮廓方法进行了改进，提出了一种基于多段水平集方法的双表面延伸算法，较好地克服了Snake模型及传统Levelset方法的许多缺点。并将其成功的应用于3D脑皮层的分割问题中，实现了脑外皮层和主要脑沟带的完全自动化提取。 (2)提出了一种较为通用的非刚性点配准方法——混合点配准算法(MPM)。非刚性点配准是其它基于特征的配准方法的基础，是实现不同个体之间3D脑图像配准的关键。本文在深入研究非刚性点配准中存在的问题的基础上，利用高斯混合模型，提出了一种简单快速的混合点配准算法(MPM)，成功的解决了非刚性点配准中参数空间的高维搜索及溢出点处理的建模问题。并通过一系列的实验来评估算法的有效性。 (3)实现了利用近似薄板样条作为变换模型，将标记点位置的变换扩展到整个图像空间中。任意d维的薄板样条函数可以描述为多变量插值问题，但是插值薄板样条要求两幅图像中标记点是完全匹配的。然而，在实际应用中不管是人工、半自动化或完全自动化提取的标记点，其位置总是存在误差的。为了考虑标记点位置的误差，在薄板平滑样条的基础上，提出了一种各项异性近似薄板样条，考虑标记点在不同方向上的误差及其互相关性，使得算法能够处理各项异性误差及不同类型的标记点，提高配准的准确度。 (4)引入聚类技术，减少配准点集的数目，大大提高了混合点配准算法的计算速度。在混合点配准算法(MPM)中，当特征点的数目达到上百甚至上千时，估计对应关系和变换的计算量非常巨大。为了减少其计算代价，并使算法具有对称性，对第三章的混合点配准算法进行扩展，提出了一种对称的混合点配准算法(SMPM)和一种联合聚类—配准算法(JCM)，结合有粗到细配准的策略反复多次配准。这样不仅可以大大减少计算代价，还提高了配准精度。 (5)实现了将非刚性点配准算法用于解决医学图像中一个重要的问题——个体之间的3D脑解剖结构特征的非刚性配准。由于大脑结构的异常复杂性和多变性，个体之间的脑解剖结构配准是一项非常困难的任务。本文在深入研究脑配准的研究现状及困难的原因之后，提出了一种基于联合聚类一配准的特征匹配方法。利用前期的双表面分割方法以及联合聚类—配准算法，实现了不同个体之间3D脑解剖结构特征的非刚性配准。对不同类型的几何特征进行了融合，并实现了不同变换模型的比较。配准过程完全自动化。 (6)实现了基于一定人群的可形变数字化概率图谱的建立。可形变数字化概率图谱是研究自动化分割工具的基础。本文在研究数字化统计图谱创建方法和特点的基础上，对前期的联合聚类—配准算法进行一些改进，允许多个点集同时配准，实现了可形变数字化概率图谱的自动化创建。并将其应用到2D胼胝体的可形变数字化概率图谱的建立中。