在基于模型的聚类算法中，可以使用混合模型来拟合数据然后把数据分配到各个混合成分中。其中高斯混合模型在实际应用中是广泛使用的一种方法。在使用高斯混合模型解决问题时，常常使用EM（期望最大化）算法来估计参数。但是EM算法本身就有许多缺点，这给高斯混合模型的应用带来影响。当然我们可以对其进行改进，比如使用Component-Wise EM算法代替标准EM算法，同时最大似然框架下的参数估计方法无法同时进行模型选择，必须额外加入模型选择函数。模型选择函数的选取会直接影响模型选择的结果。为了改进我们可以使用更先进的MDL准则（或其他准则）代替BIC准则函数。当然我们还可以加惩罚项来约束参数估计的结果，比如可以使用局部保持正则化（local consistency）。高斯混合模型的使用很广泛，但是在实际应用中，很多场合，数据是被截断或删失的。因此这就促使高斯混合模型能针对截断删失数据进行改进。本文因此也讨论了一套方法能使用高斯混合模型对截断删失数据进行拟合，并加入分裂与合并操作对算法进行改进。贝叶斯推断理论在统计模式识别中应用也是十分广泛的。出现了如Reversible JumpMCMC（可逆跳转MCMC）算法等。然而这些算法本身十分复杂，且计算量非常大，很难应用到多变量，高维数据的应用中。本文也尝试着使用RJMCMC算法对多变量高斯混合模型进行建模，并对其进行改进调整，建立一个相对容易理解的层次模型，来简化分析。我们的所有算法都是经过实验验证过的，实验结果也在文中进行了分析。