论文部分内容阅读
在神经网络中引入惩罚项是防止权值过大，并从而改善神经网络泛化能力的一种常用方法．设前馈神经网络的训练样本集和权值向量分别为{ζj}j=1^J真包括R^n和X∈R^n．在误差函数中引入形如λ∑(X·ζj^2)的惩罚项，证明了训练过程中权值的有界性和网络的弱收敛性．这里允许J>n，从而不要求{ζj}j=1^J线性无关，放宽了已有结果中要求{ζj}j=1^J线性无关的苛刻限制。