论文部分内容阅读
BP (Back Propagation)神经网络是目前应用最广泛的神经网络模型之一。经验表明,BP神经网络的性能主要取决于网络结构的设计。BP神经网络在迭代的过程中,可能出现隐含层节点冗余,从而影响神经网络的训练效果。此外,传统的BP神经网络采用梯度下降法求解,使得在神经网络的训练过程中,容易出现陷入局部最优、训练过程震荡、收敛速度慢等问题。针对BP网络目前存在的问题,本文将相关性剪枝算法(Correlation Pruning Algorithm, CPA)和变学习率、附加动量方法结合提出了一种基于CPA改进的BP神经网络剪枝算法,该算法进一步提高了神经网络的收敛速度和准确度。此外,本文将提出的算法和粗糙集理论结合,并运用到气象数据修复中。论文主要工作包含如下两个方面：(1)提出了一种基于CPA改进的BP神经网络剪枝算法—LMCPA神经网络。在张等人提出的复合BP神经网络的基础之上,引入CPA相关性剪枝算法,在神经网络迭代的过程中,对冗余节点进行删减,当隐含层两个隐含层节点的输出对所有样本具有较大的相关性时,将它们合并成一个节点,并对权值和阈值进行调整。为了验证本文算法的性能,我们将LMCPA算法分别和原始的BP神经网络、张自敏等人提出的复合BP神经网络、基于相关性分析的BP神经网络剪枝算法进行对比。实验结果表明,本文提出的算法能够进一步的提高神经网络的性能。一方面,该算法可以降低了训练步数,加快神经网络的收敛速度；另一方面,其在测试数据集上的均方误差也得到了进一步的优化。(2)提出了一种气象数据修复算法。在本文提出的LMCPA神经网络的基础之上,针对气象数据维数较高的特点,引入粗糙集作为气象数据约简工具。首先,使用粗糙集对气象属性的重要性进行计算,基于属性的重要性,约简重要性较小的属性,并去掉对应的气象数据。基于约简后的数据,采用LMCPA神经网络对气象数据进行修复。实验表明,结合粗糙集算法,能够使得LMCPA算法的数据修复能力更强,收敛速度更快,且修复后得到的数据和专家修复后的数据之间的误差更小。