随着脑成像技术的发展,认知神经科学在许多方面取得了丰硕的研究成果。目标刺激被大脑皮质的神经系统编码为神经元群体的脉冲序列,一种神经元群体概率编码理论被提出,并在此理论基础上把大脑认知过程描述为贝叶斯推理过程的数学模型被广泛研究。该贝叶斯认知模型认为大脑神经系统结合了刺激的先验信息,对目标刺激的状态进行了神经编码,在贝叶斯统计框架下进行解码,并做出推断或决策。该模型很好地解释了许多实际认知推断问题,以及多线索整合目标识别问题,在认知神经科学上发挥了重要的作用。本文主要在神经元群体概率编码框架下,依据贝叶斯统计推断理论,结合人类视觉方向认知的实际背景,探讨了人脑视觉神经元群体对方向识别的概率编码与贝叶斯解码模型以及相关内容的研究。主要的研究内容有:（1）探讨了受试者如何去整合背景信息和目标先验信息对目标方向进行识别的数学模型,进行了已知参照线出现和参照线缺失两种情况下的方向识别试验。对试验数据进行了统计分析,结合等精度和变精度编码假设,针对已知参照线下的方向识别任务,提出了四种不同概率编码下的贝叶斯认知整合模型。运用Monte Carlo方法计算模型参数的最大似然估计,对模型进行了模拟,使用识别偏差,识别标准差和均方误差以及交叉熵对四种模型进行比较。结果显示变精度编码下的贝叶斯后验期望模型捕捉到试验数据的特征,且能更好地解释了试验数据。（2）针对识别中的先分类后识别的贝叶斯观察者,建立了分类贝叶斯认知模型,进行了目标方向的先验分布为正态分布的方向识别试验。根据实际识别中可能出现两种不同方式:分类后直接对目标刺激方向进行估计;分类后先对目标刺激线和参照线所构成的夹角进行估计,再推导计算目标刺激。本章提出了直接分类贝叶斯模型和间接分类贝叶斯识别模型,同时考虑了视觉等精度和变精度编码模式,得到四个不同的分类贝叶斯认知模型。利用Monte Carlo方法估计参数,对模型进行模拟并与试验数据进行对比,发现间接分类贝叶斯-变精度模型更好的的捕捉到了试验数据的特点。（3）从信息论的角度研究了视觉神经元群体概率编码的效率问题,介绍了神经元群体概率编码的Fisher信息量与识别的偏、识别方差和识别阈值的关系。本章针对Possion-like概率编码,从神经元调谐函数优选刺激的分布,调谐函数的宽度,调谐函数的峰值和群体编码的独立性四个方面对神经元群体进行分类,分别讨论了两种同质神经元群体和六种异质神经元群体的编码效率。结果显示神经元群体相关性显著地影响了编码效率,对于同质神经元群体,不管群体是独立还是相关时,同一个神经元群体对每个不同的刺激方向的编码效率是相同的;对于对应参数取值相同的神经元群体,随着相关系数不断的增大,它们的编码效率显著性地增加,进一步的验证了神经元群体之间的相关性有助于编码效率的提高。（4）从理论上对负相依有偏神经元样本的小波密度估计的逐点最优性进行了研究。采用了块阈值方法,构造自适应的密度函数的块阈值小波估计,论证了在Besov空间上达到了逐点最优收敛速度。此块阈值小波密度估计在均方误差方面比非线性小波密度估计器有更好的性能。随着样本量的增加,估计的精度越来越高。