人类社会演变的方向是更系统、高效地从环境中获取物质、能量和信息。随着互联网的广泛普及,爆发式增长的视觉图像迅速打破以文字为主要符号的文化环境,成为当前主流的信息载体。图像分割作为图像工程中的基础技术,一直是计算机科学工作者的研究重点。以能量泛函优化为核心、偏微分方程为驱动,同时结合曲线演化理论的几何主动轮廓模型,即水平集方法,由于其灵活精确的目标边缘表示能力以及易于与其他理论结合的可扩展性,在图像分割领域具有得天独厚的优势。在实际图像中,往往存在目标遮挡、亮度不够、背景复杂等问题,此时仅依靠底层图像信息驱动曲线演化难以得到理想的分割结果,将形状先验约束加入能量泛函是一种有效的解决手段。然而,过去基于形状先验的水平集方法中,不论是基于单先验还是多先验,大部分只针对感兴趣区域是单目标的情形,当图像中出现多个外观形状相似但区域属性不同的目标时,无法使用传统引入形状先验的方式进行图像分割;另一方面,对于目标部分与背景相似度过高,或者目标可形变而先验不足以描述的图像,即使引入形状先验,仍会造成漏分、错分等结果。因此,本文针对以上两个问题,利用图像目标的其他特性分别设计了相应的改进方法。现将主要工作概括如下:(1)提出一种基于动态形状先验的水平集方法,用于解决细胞图像分割过程中目标边缘模糊且具有粘附性的问题。首先,基于原始细胞图像及其LBP特征图像提取细胞种子点,并进一步根据种子点的位置设置初始的演化曲线;然后,借助分数阶导数构建一种新的细胞边缘指示算子,从而提供使闭合曲线准确收敛至细胞边缘的驱动力;最后,将自动初始化的水平集函数和边缘指示算子结合到水平集方法中,利用杆菌细胞的形态特征设计随演化过程动态改变的形状先验,确定形状约束能量项,通过优化能量泛函共同约束演化曲线实现对粘连细胞的分割。(2)提出一种基于目标形状与关系约束的水平集方法,用于解决非匀质且具有非刚性形变的目标分割问题。图结构模型将人体表示为多个部件并刻画部件之间的关系,受这种思想的启发,首先提出了一种基于距离可见性的形状分解算法,用来建立所需要的先验形状部件数据库;其次,在多相水平集框架的基础上,根据先验人体的部件形状和部件间的几何关系分别构建一元的形状约束能量项和二元的关系约束能量项,然后驱动多条曲线组合演化成具有语义的形状,从而改进了水平集方法对灰度不均匀的可形变目标的分割效果。综上,本文从目标的形状约束与形状间关系约束两个方面研究并发展了现有的水平集方法,为该类方法在图像分割领域的应用扩展了新思路,也为将其推广到图像解析和理解提供了有益探索。