近些年来,神经网络模型已经成为机器学习中一种广泛使用的模型,并且在许多任务上取得了巨大的成功。研究神经网络模型的泛化性能也是深度学习领域的研究热点之一,但到目前为止,对模型泛化能力的理论解释仍不完善。本文受集成学习中基分类器多样性的启发,引入了神经元多样性来探究影响模型泛化性能的原因。为了研究多样性对模型泛化性能的影响,本文引入了不相关性和平等性来定义神经元的多样性。其中,不相关性旨在促进各个神经元学习多样的特征,而平等性保证了不同神经元在模型中都发挥显著的作用。具体地,我们得到了一个基于多样性的模型泛化误差的边界,证明了多样性是影响模型泛化误差的关键因素。同时,我们证明了多样性与神经网络参数的两个统计量有关:权重矩阵的正交性和权重矩阵的均匀性。理论结果表明,我们可以通过增强权重矩阵的正交性和均匀性来增强模型多样性进而提升模型的泛化性能。为了验证我们的理论结果,本文提出了正交-均匀神经网络模型(Orthogonality-Uniformity Neural Network,OUNN),该模型可以同时保证网络的正交性和均匀性。我们在MNIST,SVHN,CIFAR数据集上进行了实验,其中在MNIST,CIFAR数据集上的实验结果验证了多样性和模型泛化性能的关系。OUNN模型在SVHN和CIFAR的数据集的实验结果说明了正交-均匀性有利于提高模型的泛化能力。