视觉先验是视觉信号的某种稳定分布,在视觉信号的表示、感知和识别中具有重要的作用。本文通过神经生理学实验与统计建模和分析,对自然场景中视觉先验的神经编码进行研究。并根据研究结果和模拟神经编码机制,提出了适用于识别的视觉特征学习算法,并对特征在识别中的泛化能力进行了分析。研究成果主要包括以下四方面:1.证实视觉神经以功能连接的形式编码视觉先验和视觉信号。通过电极测量猕猴视觉神经元(初级视觉区V1)对视差信号的响应,观察到神经元之间的功能连接强度与它们空间感受野的相对位置有关,即相对位置为水平或垂直方向的功能连接强于其它方向上的功能连接,这种现象称为中心效应。这种连接模式与自然场景中两视差信号间的相关性模式一致。这表明神经元以功能连接的形式编码视觉先验,并用于视觉信号的感知和推断。实验还表明,神经子网络的相互作用以及神经连接编码的先验可用概率产生式模型建模。2.提出利用产生式先验信息的后验散度算法。神经子网络的相互作用及神经连接编码的先验可用概率产生式模型建模,该事实表明模型中的变量及参数编码了先验信息,可以用来表示复杂的视觉信号。以此为基础并模拟神经编码机制,提出了用产生式模型对视觉信号建模并从产生式模型导出视觉特征的后验散度算法。该算法综合利用随机变量和模型参数等产生式信息,输出维数固定的特征。后验散度包括三类度量:样本对模型的影响程度;样本对变量的拟合程度;拟合中的不确定性。这三类度量分别对应视觉信号对神经连接的影响、神经对视觉信号的解码、神经解码中的不确定性。该方法鲁棒性强,在各种条件下均能有提取有效的特征,在多个应用中取得了当前最好的结果。3.提出利用产生式信息的充分统计量算法及其判别式学习算法。在概率产生式模型中,充分统计量综合了样本及分布的相关信息。以此为基础,提出了简单有效的充分统计量特征映射算法。该特征映射本质上是概率产生式模型的充分统计量的期望,没有涉及到产生式模型的参数。进一步,提出了该特征映射的判别式学习方法以利用标签信息。判别式学习方法通过最大化特征空间上分类器的分类裕度而实现。由于特征映射的简单性,判别式学习方法求解简单、易于实现且计算效率高,能有效地应用于多类视觉问题,并能直接扩展到大规模数据库。4.对特征在识别中的泛化能力进行了理论分析。将以上两类特别映射方法用于视觉信号的特征提取与识别。导出了两类特征在分步学习和联合学习条件下的泛化错误率上界。并且从理论上证明,这两种方法的识别错误至少低于贝叶斯分类器;在特定模型上这些特征的泛化错误率的上界低于原数据。这些泛化错误率上界给出了评价特征的标准。进一步,将确定式特征映射扩展到随机特征映射,导出了适合半监督学习的泛化错误率上界,并提出了联合学习充分统计量特征映射与分类器的方法。将所提出的特征学习方法与多种概率产生式模型结合,并应用于多类视觉识别问题。实验结果表明,与当前的主流方法相比,本文所提出的特征学习方法以及其判别式学习方法在多个识别问题上达到了目前最好的效果。