点模式匹配是计算机视觉和模式识别领域的一个重要而基础的问题，在图像配准、立体视觉、图像检索、目标识别与跟踪、医学图像分析、景象匹配导航等方面有着广阔的应用背景。由于实际应用中所提取到的点集通常会出现噪声、出格点和缺失点等复杂情况，而且点集之间的几何变换关系既可能是低维的刚体变换，也可能是更复杂的高维非刚体变换，这样就使得有着广泛应用的点模式匹配本身仍然是一个十分具有挑战性的任务。针对目前已有的点模式匹配算法所存在的问题，本论文根据待匹配点模式之间所满足的几何变换模型的不同，对刚体变换和非刚体变换下的点模式匹配问题分别展开深入研究，提出了一系列新的适用于不同几何变换模型的鲁棒的点模式匹配算法：在相似变换下的点模式匹配方法研究中，论文首先提出了一种新的基于点集的不变特征—相对形状上下文，然后将该不变特征分别与概率松弛标记法和谱匹配方法相结合，提出了基于相对形状上下文与概率松弛标记法的点模式匹配算法和基于相对形状上下文与谱匹配方法的点模式匹配算法。相比于其它经典算法，本文所提的两种新算法均具有较强的针对噪声、出格点的鲁棒性，且都能适用于一定程度的透视变换情况。而在相同的参数设置下，前者具备更强的抗出格点能力，而后者则具备更强的抗噪声能力。在仿射变换下的点模式匹配方法研究中，为了解决传统的一致性点漂移算法存在的局部最优性和收敛速度随点集大小增加而下降等问题，论文提出了一种新的基于全局最优的快速一致性点漂移算法。该算法首先将点集进行正交标准形约简，利用约简后点集的重要性质，推导出不完全观测数据的对数似然函数在全局最优解附近凸函数区域的边界值，再以该边界值为基础，采用多重初始化策略来实现全局最优。最后，提出了基于置信域的全局收敛二次平方迭代期望最大化算法，实现了全局优化算法的超线性收敛。通过实验验证了该算法是有效的、快速的以及鲁棒性较强的。在非刚体变换下的有标记点模式匹配方法研究中，当归纳分析了经典的非刚体几何变换模型以及经典的基于微分同胚的非刚体变换模型所存在的问题后，论文提出了一种新的基于恒定动量矢量的快速大形变微分同胚非刚体变换有标记点模式匹配算法，该方法利用拉格朗日坐标系下的恒定动量矢量以及时间依赖的多尺度再生核来构造速度矢量场，然后采用基于规则化控制参数的确定性退火机制来搜索最优动量矢量，从而得到最优的微分同胚变换形变场。通过比较实验发现，新方法不仅适用于大形变的微分同胚非刚体变换的情况，而且与经典的基于微分同胚的方法相比，匹配精度较高，时空复杂度较低，并在匹配精确性与形变光滑性之间达到了较好的平衡兼顾。在非刚体变换下的无标记点模式匹配方法研究中，提出了一种新的高斯混合模型与基于恒定动量矢量的大形变微分同胚变换相结合的非刚体点模式匹配算法，该方法将以高斯混合模型为基础的软匹配方法与上述非刚体变换下有标记点模式匹配研究中所提出来的基于恒定动量矢量的快速大形变微分同胚非刚体几何变换模型相结合，利用高斯混合模型概率密度函数的参数估计方法来迭代求解最优的恒定动量矢量参数。新算法在复杂实际应用中不仅能得到满足微分同胚条件的大形变光滑可微形变场，同时还具备较高的匹配精度以及较强的鲁棒性。