在神经网络当中,为了进一步提升网络模型的表达能力,提取出输入信号更高级特征,神经网络的结构有着变得更深更宽的发展趋势。与此同时,更深更宽的网络会带来大量的权重参数需要被训练,特别是当训练数据不充足时,数百万个权重参数被训练时,很容易使得网络出现过拟合。因此,防止过拟合的有效方法的提出迫在眉睫。过去,通常会采用训练多个模型做组合的方式去防止模型出现过拟合,但这会导致模型训练和测试的过程非常耗时。目前,往往会采用了大量的正则化方法来提高神经网络的泛化能力,比如来L2正则化、Batch Normalization、Dropout、Dropconnect等正则化方法。其中,Dropout算法在训练的过程中,随机地选择忽略一定比例神经元节点的响应,使得网络权重的更新不再取决于有固定节点的联合作用。但是它对隐含层的神经元们判断是否激活是具有具有一定的随机性,并且让失活的神经元不能同时参与权重的更新,从而忽略了神经元的作用能力有强有弱的局限性。本文针对Dropout算法的局限性,对未被激活神经元们被赋予较小的激活程度值做出了相关研究,提出了一个新的神经网络正则化方法--DropWeight算法,以进一步提高模型的防止过拟合能力,从而达到增强模型的泛化能力的目的。它通过伯努利分布按一定的概率随机选择在全连接层当中的神经元节点是否被激活,然后引入一个神经元激活程度值变量,为未被激活的神经元们赋予较小的激活程度值,增加网络训练时连接方式的复杂度,使得每次网络权值更新可依靠作用能力有强有弱的隐含节点。通过对Mnist和Cifar-10两个标准图像数据集,在多层感知机和卷积神经网络等网络上进行图像分类的实验。结果表明,当各个网络在全连接层上使用DropWeight算法时,不仅每个网络都可以找到一个固定的最优激活程度值-0.4和一个固定的程度值变量的调优取值范围[-0.5,-0.1],而且相比使用No-Drop、Dropout等算法,在提高网络分类识别率、降低网络过拟合比率等方面上,DropWeight算法展现出了的一定的优越性。DropWeight算法不仅进一步提升了模型的防止过拟合的能力,而且也提高了模型的学习表达能力,从而增强了整个网络模型的泛化能力。