图像分割作为计算机视觉和图像处理领域的核心任务之一,是图像理解、目标识别等高级视觉问题的核心基础。由于实际采集的图像经常携带高噪声,且存在由于光照不均所导致的强度不均匀,以及背景与目标灰度差异不明显等问题,因此大大增加了图像分割问题的难度。针对这类具有复杂背景的图像,常规的图像分割算法难以获得理想分割结果。近年来,在图像分割领域中,基于马尔科夫随机场模型（Markov Random Field,MRF）的图像分割方法是一个较为热点的研究方向。与其它图像分割方法相比,其图像描述方式的简洁有效、图像空间结构关系易于表达等特点体现了它更好的图像建模能力。本文研究是针对复杂背景图像的特点,在马尔科夫随机场框架下,结合高斯混合模型（Gaussian Mixture Model,GMM）和拓扑重叠测度（Topological Overlap Measure,TOM）方法,提出改进的基于高阶MRF模型的分割方法,旨在给复杂背景的图像分割提供一个解决方案。本文主要研究内容包括如下方面:（1）针对常规MRF模型在分割复杂自然图像时对噪声敏感和边缘模糊的问题,在研究MRF理论的基础上,建立了一种基于多节点拓扑重叠测度的高阶分割模型。首先,为了描述图像局部区域内多像素蕴含的复杂空间拓扑结构信息,利用多像素拓扑重叠测度建立图像局部区域的高阶先验模型;其次,利用较大的局部区域包含更多的标签节点信息能力,基于Pairwise MRF模型建立基于局部区域的部分二阶Potts先验模型,提高分割模型的抗噪能力;再次,为了有效描述观察图像场和其标签场的似然特征分布,研究利用局部区域内邻接像素的Hamming距离引入图像局部空间相关性,建立了局部空间一致性约束的高斯混合分布;最终,基于MRF框架建立用于图像分割的多节点拓扑重叠测度的高阶MRF模型,采用Gibbs采样算法对提出模型进行优化。实验结果表明,提出模型不仅能有效抵抗图像强噪声和复杂的纹理突变干扰,鲁棒性更好,而且具有更准确的图像分割结果。（2）针对高阶MRF难以用标准的推理方法求解的问题,对比研究了基于高阶图割和基于消息传递的能量优化算法。针对建立的基于MTOM的高阶MRF模型,对置信度传播算法进行改进,将提出的MTOM-MRF模型的全局能量最小化分解为局部收敛的全局优化问题,最终基于最大后验准则获得图像分割结果。实验结果表明,所提改进的基于区域的快速BP算法不仅具有较快的分割速度,而且得到了较为理想的分割结果。最后,对研究工作及研究成果进行总结,并对在研究中发现的问题和存在的不足进行分析,对待解决的问题或在研究中发现的新问题提出解决思路。同时,对所研究内容在未来的发展动向进行展望。