近年来,随着医学图像扫描技术和计算机技术的发展,不同模态的医学图像在临床应用中得到广泛使用,并且发挥的作用日益增长。医学图像分割在临床疾病检测、辅助诊疗方面有多种重要作用,例如肿瘤定位,病理分析,测量组织体积,计算机辅助手术,计算机引导放疗,治疗计划制定,解剖结构研究等。然而,由于医学图像模态众多,结构复杂,没有一种方法能够适用于所有图像的分割,而手工分割是一项繁冗的工作,不仅给临床医生增加很大工作量而且效率低下。因此针对不同类型的医学图像,研究有效的自动分割方法或者交互式分割方法具有重要的研究和临床应用价值,从而受到国内外研究者的高度重视。本文主要针对病理图像和视网膜血管图像,分别研究腺体和血管分割算法。主要研究了分数阶散射网络、动态最小路径模型、基于图搜索的视觉分组,然后根据每种算法的特征,用于病理图像腺体分割和视网膜图像血管分割。主要工作及贡献如下:(1)提出了一种基于分数阶散射网络的图像分割算法首先,基于复数小波构造散射网络的方法,我们利用分数阶复数小波变换将传统的散射网络推广到分数阶,构造分数阶散射网络,从理论上给出了分数阶散射网络的平移不变性和微小形变稳定性,并且推导了其能量传播过程的非扩展性。经典的散射网络是分数阶散射网络的一个特例,而分数阶散射网络比经典散射网络多了一个关键的角度参数称为分数阶阶数,通过调节不同的分数阶阶数,使得分数阶散射网络在图像处理中得到较高的正确率。不同分数阶的变换系数使得分数阶变换具有更多的适用性;然后,设计了基于分数阶散射网络的病理图像腺体分割算法;最后,验证了分数阶散射网络在病理图像分割中的有效性,并分析了不同分数阶下该网络提取特征的分类能力。实验结果表明,与经典的散射网络相比,分数阶散射网络在合适的分数阶散射域会有较好的分类准确性;此外,通过与其他卷积神经网络在病理图像分割中的分割结果相比较,基于分数阶散射网络的分割算法具有较高的分割准确率。(2)提出了一种基于动态最小路径模型的图像分割算法。首先,基于已有的各向异性最小路径模型(或者测地线模型),我们对其中定义的各向异性黎曼度量进行扩展,用于解决最小路径模型在分割中经常存在的捷径问题(Shortcut Problem)。在半径提升空间中,我们定义了交叉自适应各向异性黎曼度量,使得在非交叉区域度量具有各向异性,而在交叉区域度量的各向异性被去除。此外,我们引入非局部路径特征到各向异性黎曼度量,该特征为动态特征,在计算测地线距离的过程中获得。该路径特征计算测地线得弯曲程度以控制其进化方向;然后设计了基于动态最小路径模型的图像分割算法,人工给定两个初始点,作为起点和终点,通过该算法得到两点之间的血管中心线,以及结构的半径信息;最后,我们通过对视网膜血管、河流与道路等管状结构的检测实验,定量和定性验证了该算法的有效性。并且与其他基于各项同性、各项异性的测地线算法比较,验证了该算法的在克服捷径问题中的有效性。(3)提出了一种基于图搜索视觉分组的交互式图像分割算法。图搜索视觉分组由最小路径模型与图优化两部分组成。首先,利用多尺度方向可调滤波器提取血管的方向与表面特征,获得血管概率图,并且同时获得该位置血管的最优方向;然后,采用非最大值压缩法除去非血管像素以及血管边缘区域,得到代表血管中心线的曲线段。接着构建图结构,利用曲线段作为图节点,曲线段之间的最小路径作为相邻边的连线。最后,通过Dijkstra算法实现图优化,在图中搜索最优路径。由于采用曲线段而非图像像素作为节点,有效提高分割效率。用最小路径连接曲线段之间的空隙,能够提取光滑的血管。并且与其他基于图优化的血管分割算法相比较,本文提出算法识别准确率也较高。