光谱域光学相干层析成像技术被广泛的应用于视网膜组织的三维成像中,准确地分割视网膜组织的层次结构可以为各类视网膜疾病的诊断提供依据。针对视网膜组织分层的研究大多集中在二维层面,没有充分利用三维影像的帧间信息。本文以三维图搜索算法为基础,充分结合视网膜光学相干层析图像中各层的形状与灰度信息,实现视神经乳头区域不同层的准确分割。本文主要研究内容如下:1.以图论为基础,研究了三维图像最优表面检测算法,针对传统三维图搜索算法存在的局限性,提出了改进方法。2.设计了一种具有自适应平滑约束的三维图搜索算法。根据边缘梯度方向设计了最优单层表面检测的平滑约束函数,构建出一种非均匀的三维图,有效降低了三维图搜索算法的搜索区域。梯度相关的平滑约束使改进的三维图搜索算法能适应具有较大起伏的平面检测。实验表明具有自适应平滑约束的三维图搜索算法在具有大凹陷的视神经乳头区域ILM层的处理中,分割准确度与分割效率均有提升。3.设计了一种基于改进Pal King和多尺度搜索的视网膜多层分割算法。根据不同尺度下视网膜图像的特征灵活地使用最优单表面与多表面分割方法。采用边缘子图进一步细分不同尺度下的特征,有效降低了面间约束对分割结果的影响。实验表明在远离视神经乳头中心大凹陷区能有效的分割出七层视网膜表面。