论文部分内容阅读
中图分类号:Q42 文献标识码:A 文章编号:1671-7597(2008)0610112-01
人工神经网络是一门高度综合的交叉学科,涉及神经生理科学、数理科学、信息科学和计算机科学等众多领域,在信号处理、模式识别、专家系统等众多领域的应用中获得了引人注目的成果。我们在研究迫击炮弹射击散布预测与评估的过程中,对人工神经网络的预测应用进行了深入研究,提出了最速下降法和共轭梯度法相结合的神经网络算法,解决了散布密集度试验预测与评估问题。
一、BP神经网络模型
人工神经网络预测的基本思想,首先是收集数据训练网络,然后用人工神经网络的算法建立数学模型,最后用采集到的数据源进行预测。随着神经网络理论研究的深入,预测领域逐渐采用性能更优的复杂网络。目前,最常用的网络是BP网络,一种多层结构的单向传播前馈型网络,即多层前馈神经网络。
BP学习算法采用非循环多级网络训练算法,利用最小二乘法,运用梯度搜索技术,使网络的实际输出值与期望输出值之间的误差均方值为最小。网络学习过程是一种误差边向后传播边修正权值系数的过程,包含了正向和反向传播两个阶段。在正向传播过程中,输入信息从输入层经隐含层逐层处理,并传向输出层,每一层神经元的状态只影响下一层神经元的状态。在输出层不能得到期望的输出,则转入反向传播,将误差信号沿原来的连接通路返回,修改各层神经元的权值,使误差信号最小。
BP网络的网络结点是非线形单元,是一种有监督的学习过程,它根据给定的样本进行学习,并通过调整网络连接权来体现学习的效果。在学习阶段,将学习样本加入输入端,沿前向在各层神经元按输入和激励函数产生输出,再将实际输出值和期望值之差逆向传到各层神经元,并根据误差和符号调整权值,直到误差缩小到规定的范围。
二、BP模型算法的改进
传统BP网络具有思路清晰、结构严谨、工作稳定、操作性强等特点,但存在可能陷入局部极小点、学习过程中易
出现长时间的误差平坦区、网络结构选择困难等问题。在实际应用中,网络结构人为性较大,缺乏规则指导,故对BP网络作如下的改进。
(一)BP网络结构的确定
在BP网络中,隐节点的作用是依据隐层节点的传递函数及隐节点的个数将n维输入空间切割成不同形状的特征空间,然后根据命题的要求,结合输出节点的传递函数及节点数,对输入样本空间构造出一个期望的判决域。因此,隐层神经元的个数及其节点数,对形成期望的判决域的构造速度及其判断精度都是至关重要的。一般情况下,根据经验确定隐层神经元的个数带有较大的盲目性。为此,我们采用区间探测法来确定隐层神经元个数。具体算法描述如下:
1.首先,对于隐含层初始隐节点,采用由最小二乘法拟合得到的经验公式:
其中,m为输入层结点数,s为隐层节点数,n为输出层节点数。
2.按区间试探隐层节点数,即分别以s加减5为隐层节点数,分别记为a和b,选取少量学习样本,选定激活函数,按某种训练算法进行训练,记录在一定周期下的误差,用erra和errb表示。Dab表示隐层节点数为a的网络与隐层节点数为b(a
3.分别对a、b减、加5,构造新的区间[a-5,a]和[b,b+5],计算对应的误差下降幅度。
4.不断循环3,若b+5或a-5分别超过上下阙值,则两个区间分别相应为[下阙值,a],[b,上阙值]。
5.找出误差下降最大幅度的区间。
6.逐个找出该区间中误差下降最大的隐层节点数值。
7.将该隐层节点数与前面已求出的各区间的上下边界隐层节点数的误差下降幅度进行比较,找出误差下降最大相应的隐层节点数值。
此即为欲求的较优的隐层神经元个数。
(二)BP模型修正权值的一种改进算法
在基本的BP算法中,采用最速下降梯度法来修改权值。但最速下降法存在收敛速度偏慢的问题,我们采用一种将最速下降法和共轭梯度法相结合的算法,可以有效地提高收敛速度。
共轭梯度法的基本原理是按“共轭梯度方向”修正权值,在收敛速度上比最速下降梯度法有较大提高,但下降方向的确定比最速下降法复杂。因此,将最速下降法用于开始收敛,在收敛过程中,当误差变化率小于阀值时,说明已找到梯度较大的下降方向,这时改用共轭梯度法来加速收敛过程。
三、迫弹散布密集度的预测
迫弹散布密集度预测,以弹丸质量、基本药管药量、附加药管药量、压力全冲量、发射角度等数据作为数据源,运用改进的BP神经网络的方法进行预测。
以迫弹的散布密集度作为输出,建立迫弹散布密集度预测的BP网络模型,采用包含输入层、隐含层、输出层的三层误差反馈传递神经网络。网络的输入层、隐含层、输出层神经元个数确定如下:对于输入层,对迫弹采集数据的指标主要为弹丸质量、基本药管药量、附加药管药量、压力全冲量、发射角度五个指标的数据。因此,输入层神经元节点个数为5。对于隐含层,取隐层神经元个数为1到15,采用前面介绍的隐层神经元数目区间探测法用改进的动量法进行反复训练,选取较优的隐层神经元个数。从训练的各区间上下边界隐层数及误差下降幅度结果和误差下降幅度最大的区间中各隐层数对应的误差结果得知,隐层神经元数应取为8。对于输出层,直接用迫弹的纵向散布密集度和横向散布密集度作为输出,即输出层神经元个数为2。建立的三层迫弹散布密集度预测的误差反馈传递神经网络结构主要训练参数为:最大训练次数取5000次,误差平方和指数取0.01,初始第1层,第2层学习率均为0.01,动量常数取0.95等。开始时,随机选取权值,隐含层采用Sigmoid函数,输出层采用线性激活函数。当训练达到了最大训练次数或网络误差平方和E小于期望值,都会使网络停止学习。用175个样本点,经过了1900次的训练,对迫击炮弹纵向散布密集度进行预测,结果样本均方差已减少到1.26%,对迫击炮弹横向散布密集度进行预测,结果样本均方差已减少到1.03%,达到了预定的要求。
参考文献:
[1]《人工神经网络原理及应用》,朱大奇,科学出版社.
[2]《人工神经网络导论》蒋宗礼,高等教育出版社,2006年12月.
[3]《人工神经网络理论、设计及应用》,韩力群,化学工业出版社
[4]《神经动力学模型方法和应用》,阮炯,科学出版社.
[5]《BP神经网络的改进及其应用》,张文鸽,吴泽宁,逯洪波,河南科学,2003年02期.
[6]《空间科学学报》2007年01期.
人工神经网络是一门高度综合的交叉学科,涉及神经生理科学、数理科学、信息科学和计算机科学等众多领域,在信号处理、模式识别、专家系统等众多领域的应用中获得了引人注目的成果。我们在研究迫击炮弹射击散布预测与评估的过程中,对人工神经网络的预测应用进行了深入研究,提出了最速下降法和共轭梯度法相结合的神经网络算法,解决了散布密集度试验预测与评估问题。
一、BP神经网络模型
人工神经网络预测的基本思想,首先是收集数据训练网络,然后用人工神经网络的算法建立数学模型,最后用采集到的数据源进行预测。随着神经网络理论研究的深入,预测领域逐渐采用性能更优的复杂网络。目前,最常用的网络是BP网络,一种多层结构的单向传播前馈型网络,即多层前馈神经网络。
BP学习算法采用非循环多级网络训练算法,利用最小二乘法,运用梯度搜索技术,使网络的实际输出值与期望输出值之间的误差均方值为最小。网络学习过程是一种误差边向后传播边修正权值系数的过程,包含了正向和反向传播两个阶段。在正向传播过程中,输入信息从输入层经隐含层逐层处理,并传向输出层,每一层神经元的状态只影响下一层神经元的状态。在输出层不能得到期望的输出,则转入反向传播,将误差信号沿原来的连接通路返回,修改各层神经元的权值,使误差信号最小。
BP网络的网络结点是非线形单元,是一种有监督的学习过程,它根据给定的样本进行学习,并通过调整网络连接权来体现学习的效果。在学习阶段,将学习样本加入输入端,沿前向在各层神经元按输入和激励函数产生输出,再将实际输出值和期望值之差逆向传到各层神经元,并根据误差和符号调整权值,直到误差缩小到规定的范围。
二、BP模型算法的改进
传统BP网络具有思路清晰、结构严谨、工作稳定、操作性强等特点,但存在可能陷入局部极小点、学习过程中易
出现长时间的误差平坦区、网络结构选择困难等问题。在实际应用中,网络结构人为性较大,缺乏规则指导,故对BP网络作如下的改进。
(一)BP网络结构的确定
在BP网络中,隐节点的作用是依据隐层节点的传递函数及隐节点的个数将n维输入空间切割成不同形状的特征空间,然后根据命题的要求,结合输出节点的传递函数及节点数,对输入样本空间构造出一个期望的判决域。因此,隐层神经元的个数及其节点数,对形成期望的判决域的构造速度及其判断精度都是至关重要的。一般情况下,根据经验确定隐层神经元的个数带有较大的盲目性。为此,我们采用区间探测法来确定隐层神经元个数。具体算法描述如下:
1.首先,对于隐含层初始隐节点,采用由最小二乘法拟合得到的经验公式:
其中,m为输入层结点数,s为隐层节点数,n为输出层节点数。
2.按区间试探隐层节点数,即分别以s加减5为隐层节点数,分别记为a和b,选取少量学习样本,选定激活函数,按某种训练算法进行训练,记录在一定周期下的误差,用erra和errb表示。Dab表示隐层节点数为a的网络与隐层节点数为b(a
3.分别对a、b减、加5,构造新的区间[a-5,a]和[b,b+5],计算对应的误差下降幅度。
4.不断循环3,若b+5或a-5分别超过上下阙值,则两个区间分别相应为[下阙值,a],[b,上阙值]。
5.找出误差下降最大幅度的区间。
6.逐个找出该区间中误差下降最大的隐层节点数值。
7.将该隐层节点数与前面已求出的各区间的上下边界隐层节点数的误差下降幅度进行比较,找出误差下降最大相应的隐层节点数值。
此即为欲求的较优的隐层神经元个数。
(二)BP模型修正权值的一种改进算法
在基本的BP算法中,采用最速下降梯度法来修改权值。但最速下降法存在收敛速度偏慢的问题,我们采用一种将最速下降法和共轭梯度法相结合的算法,可以有效地提高收敛速度。
共轭梯度法的基本原理是按“共轭梯度方向”修正权值,在收敛速度上比最速下降梯度法有较大提高,但下降方向的确定比最速下降法复杂。因此,将最速下降法用于开始收敛,在收敛过程中,当误差变化率小于阀值时,说明已找到梯度较大的下降方向,这时改用共轭梯度法来加速收敛过程。
三、迫弹散布密集度的预测
迫弹散布密集度预测,以弹丸质量、基本药管药量、附加药管药量、压力全冲量、发射角度等数据作为数据源,运用改进的BP神经网络的方法进行预测。
以迫弹的散布密集度作为输出,建立迫弹散布密集度预测的BP网络模型,采用包含输入层、隐含层、输出层的三层误差反馈传递神经网络。网络的输入层、隐含层、输出层神经元个数确定如下:对于输入层,对迫弹采集数据的指标主要为弹丸质量、基本药管药量、附加药管药量、压力全冲量、发射角度五个指标的数据。因此,输入层神经元节点个数为5。对于隐含层,取隐层神经元个数为1到15,采用前面介绍的隐层神经元数目区间探测法用改进的动量法进行反复训练,选取较优的隐层神经元个数。从训练的各区间上下边界隐层数及误差下降幅度结果和误差下降幅度最大的区间中各隐层数对应的误差结果得知,隐层神经元数应取为8。对于输出层,直接用迫弹的纵向散布密集度和横向散布密集度作为输出,即输出层神经元个数为2。建立的三层迫弹散布密集度预测的误差反馈传递神经网络结构主要训练参数为:最大训练次数取5000次,误差平方和指数取0.01,初始第1层,第2层学习率均为0.01,动量常数取0.95等。开始时,随机选取权值,隐含层采用Sigmoid函数,输出层采用线性激活函数。当训练达到了最大训练次数或网络误差平方和E小于期望值,都会使网络停止学习。用175个样本点,经过了1900次的训练,对迫击炮弹纵向散布密集度进行预测,结果样本均方差已减少到1.26%,对迫击炮弹横向散布密集度进行预测,结果样本均方差已减少到1.03%,达到了预定的要求。
参考文献:
[1]《人工神经网络原理及应用》,朱大奇,科学出版社.
[2]《人工神经网络导论》蒋宗礼,高等教育出版社,2006年12月.
[3]《人工神经网络理论、设计及应用》,韩力群,化学工业出版社
[4]《神经动力学模型方法和应用》,阮炯,科学出版社.
[5]《BP神经网络的改进及其应用》,张文鸽,吴泽宁,逯洪波,河南科学,2003年02期.
[6]《空间科学学报》2007年01期.