神经网络的层竞争模型（Competitive Layer Model，CLM）是一种新的神经网络结构模型。这种模型由多层神经元构成，每层内的神经元之间彼此连接，同一列内的神经元之间也彼此连接。层竞争模型被认为具有生物背景，在视觉神经系统中发现具有类似的层竞争结构。从数学意义来讲，层竞争模型可以描述成优化问题，可用能量函数表示，从而可以采用回复式神经网络来求解。Lotka-Volterra（LV）神经网络的层竞争模型具有严格的理论基础，从数学上严格证明了能量函数的最小点集合等于LV神经网络的稳定吸引子集合。另外，LV神经网络的层竞争模型还具有特征绑定特性，能够将相似的特征绑定到同一层。这种特征绑定特性被认为具有非常广泛的应用前景。因此，本文主要研究LV神经网络的层竞争模型及其应用，包括：1）研究特征绑定特性及其应用；2）对其层竞争结构进行扩展，针对具体的应用问题构建新的LV神经网络模型来求解。本文主要进行以下方面的研究：（1）对LV神经网络的层竞争模型的特征绑定特性进行研究，给出了通用的特征绑定算法，提出并验证了指定绑定层方法和特征分块绑定方法。（2）提出了一种大脑活动区域检测方法。该方法利用LV神经网络的层竞争模型将fMRI（Functional Magnetic Resonance Imaging）数据中每个顶点按照其时间序列进行聚类，通过将活动顶点绑定到“活动”层上，实现大脑活动区域检测。在模拟和真实的fMRI数据上的实验表明，其检测准确性高于其他几种方法。（3）提出了一种基于LV神经网络的层竞争模型的大脑MR图像分割方法。该方法采用小块图像分割、区域合并、区域聚类三个步骤将大脑MR图像分割成背景、脑脊髓液、灰质和白质四类。实验表明，相比其他3种方法，该方法的分割效果最好。（4）提出了一种长轮廓线提取方法。该方法利用LV神经网络的层竞争模型构造了一个轮廓线提取器。该提取器能将共线或者共圆弧的边绑定到相同的层。对于长轮廓线，可以沿线移动提取器，通过逐段提取的方法将其提取。（5）提出了一种目标区域提取方法，该方法利用LV神经网络的层竞争模型将指定的目标区域分块逐渐提取出来。处理每个小块时，通过指定绑定层方法将目标区域聚类到指定的“目标区域层”。实验表明，该方法能够从彩色图像中准确提取出目标区域。（6）旅行商问题可以用一个能量函数来描述。基于能量函数，构建了一个新的LV回复式神经网络用于求解旅行商问题。建立了相应的严格理论基础，证明得：1）能量函数的最小点对应一条有效的路径；2）LV神经网络的每条有意义的轨线都是收敛的；3）神经网络的稳定吸引子集合等于能量函数的最小点集合。（7）最短路径问题可以用一个能量函数来描述。基于能量函数，构建了一个新的LV回复式神经网络模型用于求解最短路径。实验表明，利用这个LV神经网络模型可以有效地求解有向图中任意两个顶点之间的最短路径。