图像分割在图像处理和图像分析之间起着桥梁作用,它是图像处理中的重要研究内容,也是难点问题.变分模型凭借其完整的数学理论,成为近年来图像分割研究中的热点之一.优化算法作为求解分割问题的手段,其研究也随之流行起来.针对当前图像分割模型及方法中存在的缺点和困难,本文提出了一些有效的模型和算法.研究工作和创新点主要体现在以下方面:1.从人类视觉习惯入手,提出了一种非凸的背景去除模型.基本思想是找出一条曲线,使得在该曲线外部区域内所有像素点灰度值尽可能相等,且外部面积足够大.应用水平集方法和梯度下降方法,推导出了这一思想的数学表达形式和其求解的演化方程.为了加快曲线演化速度,用δ1=1代替了Dirac函数.理论和实验均表明方法具有多目标分割能力.2.分析了非凸模型的缺点,提出了凸的变分模型.非凸模型容易陷入局部最小解的困境,Heaviside函数作为表征区域的特征函数被广泛应用于图像分割中,它的非凸近似是导致多数模型非凸的主要原因.针对这一点,提出并应用Heaviside函数的一种简单近似,得到了带约束条件的凸的能量泛函.文中给出了最小化该能量泛函的三种方法:分裂Bregman方法、梯度下降方法和近似算法.其中在应用后两者时,为了去掉约束条件,对能量泛函分别添加了两种不同的惩罚项,并从理论上证明惩罚项的加入不会影响分割结果.实验结果表明,三种算法都具有较高的分割效率和分割精度.3.讨论了一般模型在灰度分布不均匀图像分割中的应用,提出了基于局部灰度信息的分割模型.灰度分布不均匀图像的小区域仍然可以看作是一幅灰度分布均匀的图像,从这一点出发,使用Gauss核函数构造出局域外部灰度平均值,将其应用于凸背景去除模型中,得到了针对灰度分布不均匀图像的分割模型.模型的数值求解采用提速的分裂Bregman方法.对比实验显示,本文方法更高效,且对噪声有很好的鲁棒性.4.研究了纹理图像的特征提取与分割方法.提出了一种基于微分流形知识的纹理提取方法,并将提取得到的特征作为新的图像,应用于凸模型中进行求解.求解过程中,提出了基于近似算子的不动点迭代算法,并从理论上证明了算法的收敛性.实验表明该方法能够有效分割纹理图像,即使其各特征区域难以区分.5.研究了复杂图像和彩色图像的分割问题.自然图像大多呈现多目标和多背景的特点,一般分割模型很难做到完全分割的目的.为了克服这一缺点,本文提出了多层分割的方法,即进行多次分割.为了减少分割中的计算量,每次分割的区域是上一次得到的目标区域,而非整个图像域.彩色图像常见于生活中,为了更加凸显彩色图像三通道的差异,且更完全地应用这三个通道的信息,提出了一种关于通道的变换,并将变换后得到的三个通道看作向量图像,提出了向量图像的凸分割模型.求解时选用分裂Bregman方法.