基于模型的聚类分析对模式识别、数据挖掘和机器学习等领域具有重要的指导意义,其中有限混合模型(FMM)作为聚类分析的基础发挥着重要的作用。本文针对图像分割的共性问题及有限混合模型的特性问题,以有限混合模型、智能优化算法和非对称分布为出发点,开展基于智能优化的有限混合模型算法及应用研究,具体研究工作如下:(1)详细介绍了有限混合模型,并且通过比较高斯分布、学生t分布、广义高斯分布论述了几种常见分布函数的优劣。实现了不同智能优化算法对模型求解的方案,分别引入遗传算法,粒子群算法和飞蛾-火焰(MFO)算法等智能优化算法对高斯混合模型优化,并进行了实验对比。通过文献研究与理论推导分析指出传统解决FMM问题使用最大期望(EM)算法思路上的局限性,解释并证明了基于种群的智能优化算法能稳定地得到优化函数的最优解。(2)提出了基于标签传递和MFO优化的高斯混合模型分割算法。在MFO优化高斯混合模型的基础上使用相似性矩阵进行标签传递,用来引入全局空间信息并解决图像的噪声问题。引入偏移场估计算法,提出将高斯混合模型所求的参数与偏移场算法结合,解决了分割过程中的灰度不均匀问题。将所提算法应用于基于SD-OCT图像的地图状萎缩分割中,与现有算法进行对比实验,比较分割精度等指标,分析所提算法的优势。(3)提出了基于粗糙集的空间约束非对称高斯混合模型图像分割的方法。基于粗糙集的理论提出了一个新的确定边界支撑域的函数,用以表示像素属于某一区域的后验概率,并且引入了具有方向信息的空间约束方法克服分割中遇到的噪声问题与过平滑现象。将模型分别应用于合成图像、人脑磁共振图像(MR)图像和自然彩色图像中,并与现有其他模型比较,通过定量分析,证明所提模型的优越性。