乳腺癌是目前女性疾病中最常见的恶性肿瘤，已成为导致女性死亡的主要杀手之一。早发现、早诊断和早治疗是目前医学上对防治乳腺癌采取的“三早”原则。超声成像凭借其无创伤、无辐射和费用低廉等优点，已成为乳腺肿瘤临床诊断的主要手段之一。乳腺超声图像的肿瘤分割可以给医生提供辅助诊断和参考意见，提高了诊断的客观性和正确性，降低了误诊和漏诊现象的发生。然而，乳腺超声图像的准确分割非常困难。首先，在超声成像过程中，由于受成像设备的影响，超声图像产生了固有的斑点噪声，使得图像的信噪比和对比度较低、边缘模糊甚至边缘信息缺失。其次，超声图像中存在多种伪影，比如衰减以及在射频场中，非均匀光束在人体内衰减导致的伪影。最后，不同乳腺肿瘤的大小、形状和位置差异较大。除此之外，乳腺超声图像中存在肿瘤的浸润效应，也就是，肿瘤经常侵入周围的正常组织，这使得肿瘤与周围正常组织，比如皮下脂肪组织，腺体组织非常相似，往往难以分辨，这给肿瘤分割造成了更大的困难。乳腺超声图像的上述特点使得肿瘤的分割仍然非常具有挑战性，是一个值得深入研究的课题。为此，本文在图论、曲线演化理论和水平集方法的基础上，深入、细致地研究了基于图的Normalized Cut方法、水平集活动轮廓方法以及它们在二维或三维乳腺超声图像分割中的应用。本文的主要工作和研究成果如下：1.基于相位和梯度矢量流的水平集乳腺超声肿瘤分割在距离正则化水平集模型的基础上，本文提出一种基于相位和梯度矢量流的水平集活动轮廓模型。首先，引入单演信号的概念，利用柯西核而非Log Gabor构造正交滤波器，以提取多尺度的基于单演信号的特征；然后，将相位非对称方法应用于多尺度的图像特征上，以达到检测边缘和去除噪声的目的；接着，利用得到的边缘图，定义了一个边缘停止项，并在此基础上改进了梯度矢量流；最后，在活动轮廓模型中融入自定义的边缘停止项和梯度矢量流。一方面，由于本文方法仅利用了局部相位信息，因此它对乳腺超声图像中存在的灰度不均匀性和噪声具有较好的鲁棒性。另一方面，梯度矢量流的引入使得本文方法能够有效地捕获凹陷边界和弱边界。乳腺超声图像的分割实验证明，本文方法可以成功地分割出乳腺肿瘤。2.基于同质片的乳腺超声图像肿瘤分割在Normalized Cut（NCut）方法的基础上，本文提出了基于同质片的乳腺超声图像肿瘤分割方法。首先，定义了基于灰度和纹理信息的边界检测函数；然后，利用边界图定义了一种可以随图像像素位置变化而变化的自适应邻域系统，称之为同质片。由于同质片可以保证邻域不会跨越不同的组织，因此基于同质片的统计特征更有利于区分不同的组织，进而能够提高分割的准确度。最后，将每个同质片视为一个模糊集合，用同质片内纹理基元的模糊分布作为分割特征，再用NCut方法得到乳腺肿瘤。本文提出的算法既可以避免超声图像衰减伪影的影响，同时也避免了将肿瘤周围的正常组织，比如皮下脂肪组织、腺体组织等误划分为肿瘤。100例乳腺超声图像上的分割实验证明，本文算法取得了比现有方法更高的分割精度和鲁棒性。3.基于同质体和局部能量的三维乳腺超声肿瘤分割在经典的水平集活动轮廓模型Chan-Vese模型的基础上，借鉴Lankton方法局部处理的思想，本文提出了一种基于同质体和局部能量的水平集活动轮廓模型，并用于分割三维超声图像的乳腺肿瘤。首先，用三维相位非对称方法提取边缘曲面，进而利用每个体素邻域的边缘信息拟合了一个二次曲面，将拟合后曲面的极值作为各体素的边缘能量。这样，既使得提取的边缘曲面更为连续和光滑，而且也去除了曲面表面的噪声。然后，将二维同质片的概念推广至三维空间上，利用拟合后的边缘曲面构造了可以保持局部同质性的三维自适应邻域，将其称之为同质体。接着，通过分析同质体的纹理分布和计算局部灰度均值，定义了演化曲线周围基于同质体的局部能量。和同质片类似，利用基于同质体的特征有利于区分局部表现和外观相似却属于不同组织的体素。同时，还定义了演化曲线周围基于全局灰度均值的全局能量，这有利于驱动离真实肿瘤边界较远的演化曲线逐渐向真实边界处靠拢。最后，在活动轮廓模型中，综合全局和局部能量，通过曲线的快速演化实现乳腺超声图像的肿瘤分割。所提出的方法既可以克服乳腺超声图像灰度不均的问题，也可以避免陷入局部极值的问题。25例三维乳腺超声图像上的分割实验证明，与现有的方法相比较，所提出的方法可以有效地分割出乳腺超声肿瘤。