论文部分内容阅读
随着社会的不断进步,工业快速的发展,使得神经网络在生活中许多领域得到了广泛的应用,不过在很多领域,神经网络的应用并不能完全发挥网络的性能,比如说,网络不能得到很好的泛化,拟合精度低,收敛速度慢,训练时间比较长,误差值偏大。近年来,人们发现自适应调整网络结构影响着整个网络的性能和效率,所以优化神经网络结构是当前的一个亟待解决的问题。为此科学家们提出了一些新算法和改进算法来最大化的发挥网络性能。针对以上的不足,本文基于张米娜的AGP算法提出了改进AGP算法,新型剪枝算法以及新型增长算法。其中新型剪枝算法采用基于贡献值与输出连接的权重来修剪节点,新型增长算法就是采用基于贡献值的方差相关度差异程度对节点进行增长,而改进AGP算法就是先用新型剪枝算法进行精简结构,如果不能达到网络性能要求,那么就采用新型增长算法进行增加节点,如果还不能满足要求,这时网络训练就会迭代,直到满足网络的性能要求。为了检验本文提出的算法是否有效,本文对每个算法都跟其他算法做了对比实验仿真,并且将AGP算法应用到了交通运输能力以及国内旅游总产值预测方面,仿真实验表明本文提出的新算法能够在实际应用中获得了预期的效果,在训练时间、收敛速度、泛化能力以及误差等方面显示了其优越性。本文的研究工作主要有以下几点:第一,本文系统的描述了剪枝算法、构造法以及混合算法的国内外研究现状以及一些不足,并对每个算法的潜在应用以及分类作了详细介绍。第二,对神经网络基础知识进行了简单的介绍(包括简介、发展史、结构特征以及应用),分析了BP算法,并阐述了BP的核心思想。第三,分析了影响网络性能的因素,包括训练时间、收敛速度、泛化能力以及误差等方面。第四,基于以上不足,提出了一种基于贡献值与输出连接的权重来修剪节点的新型剪枝算法,提高了修剪的效率的同时,也保证了网络的性能。本文提出了新型增长算法,它是基于贡献值的方差相关度,直接复制那些相关度高的节点,不但使得网络收敛速度加快,而且也防止会出现过度拟合现象,并且做了相关对比实验,取得了良好的效果。第五,提出改进AGP算法,按照某些规则融合使用新型修建算法和新型增长算法进行优化神经网络结构,并用该算法对非线性函数进行了逼近,实验结果比较满意。第六,采用改进AGP算法进行交通运输能力以及国内旅游总产值方面的预测,做了对比实验,分析并比较了与AGP算法在解决问题时的优势。