论文部分内容阅读
摘 要:针对在建立多层前馈(BP)神经网络模型时,存在收敛速度慢、易陷入局部极小等问题,应用偏最小二乘法(PLS)得到的主成分数和主成分与自变量、因变量的权值对BP网络进行改进,并构建用于舰船维修费用预测的PLS-BP神经网络模型。实验结果表明,采用PLS-BP网络模型对舰船维修费用进行预测可以获得更高的精度。
关键词:BP神经网络 偏最小二乘法 舰船维修费用
中图分类号:O241.5 文献标识码:A 文章编号:1674-098X(2011)11(c)-0107-02
引言
随着舰船装备的系统性能和复杂程度越来越高,维修费用急剧上涨,在舰船整个寿命周期费用中占有较大比例,一般为70%以上,因此做好舰船维修费用管理,是提高舰船使用效益的重要工作。而维修费用的预测,是进行舰船维修费用计划管理的重要任务。影响舰船维修费用的因素比较复杂,有舰艇的技术性能、工业技术水平、物价变化、修理级别、地区差别、维修制度、复杂程度、排水量及造价等[1]。这些因素有些可以量化,有的只能进行定性分析,对舰船维修费用的预测造成一定难度。随着偏最小二乘法研究的不断深入和神经网络的出现,两者的融合运用越来越受到国内外学者的青睐[2]。本文针对影响舰船维修费用的因素多和样本数据少等特点,利用PLS在解决多变量之间的相关性问题上的优势和BP神经网络强大的非线性辨识特性,提出了一种基于PLS的BP网络的舰船维修费用预测方法。
1 基于PLS的BP网络模型
1.1 BP网络算法的局限性分析
BP算法主要存在的局限性有四个方面:(1)收敛速度慢;(2)易陷入局部极小;(3)网络的容错性差;(4)输入层、输出层初始权值的选取、网络隐含层数及隐含层单元数的选取尚无统一的理论指导[3]。其中,隐节点的选取是一个十分复杂的问题,隐节点数太少导致训练精度无法满足甚至训练无法完成,但隐节点数太多又使学习时间过长,误差也不一定最佳,网络隐含层数及各隐含层单元数的选取一般根据经验确定,因此,网络往往具有较大的冗余性,也增加了网络学习的时间。
通常情况下,BP算法初始权值的选取为[0,1]内的一组随机数,经过反复的调整,获得稳定的权值。但是这种选取方法但它并不能保证所求的解为误差超平面的全局最小解,很可能是一个局部极小解,得不到全局最优解。
1.2 PLS-BP网络模型构造思路
本文提出了基于PLS的BP网络模型,它能很好的确定初始权值、隐层节点数,跳出局部极小,减少迭代步数,提高学习效率,使网络精度达到最优。
PLS-BP建模步骤为:(1)设X、Y为BP网络输入、输出矩阵,并把样本集分为训练样本和检验样本;(2)利用PLS法得到主成分数m,主成分与X、Y的权值;(3)用主成分数m确定BP网络的隐层节点数,分别确定输入层和输出层的初始权值,开始网络训练;(4)根据检验集预测结果与相应真实值之间的平均相对误差作为目标输出的接纳标准,确定符合精度要求的目标;(5)训练结束。PLS-BP训练过程如图1所示
2 PLS-BP网络模型的建立与验证
2.1 数据准备
为了验证PLS-BP预测模型的正确性和可靠性,以某型舰船为例,收集该类四艘舰船在1989～2004年间发生十次大修数据建立数学模型。PLS-BP网络模型使用Matlab作为平台,应用PLS算法得到的主成分数和主成分与X、Y的权值对BP网络进行改进。采用有动量的梯度下降法进行网络训练,取学习效率=0.06,动量因子=0.9,最大训练次数1000次,训练目标精度e=0.001。
2.2 主成分的选取
采用Matlab编制上述数据的交叉有效性指标算法,测量主成分tm对预测模型的解释能力,并选取主成分数。计算结果如表1所示。
上述表格说明提取第一主成分t1时,模型对X、Y的解释能力分别为0.465和0.837, Q2=0.790>0.0975,继续提取成分;提取第二主成分t2时,模型对X、Y的解释能力分别为0.285和0.128,累积解释能力达到0.750和0.965,Q2=0.738>0.0975,继续提取成分;提取第三成分t3时,模型对X、Y的解释能力上升不大,此时Q2=-0.343<0.0975,故停止提取成分。最终取两个主成分数作为BP网络的隐层单元数对数据进行预测。
2.3 预测结果与分析
另外收集该型号三艘舰船最近一次大修成本数据(表2),分别利用PLS、BP网络、PLS-BP网络三种模型对当前数据进行预测,结果如表3。
由表3可见,PLS、BP网络和PLS-BP网络模型在舰船维修费用预测中的平均相对误差分别为2.73%、6.33%和0.49%,实验结果表明PLS-BP网络模型获得了较高的预测精度,较另外两种方法预测效果有明显的优势。
4 结语
本文研究了偏最小二乘法和多层前馈神经网络的结合应用,并设计了PLS-BP网络模型。该模型充分利用了PLS在解决变量之间的相关性问题上的优势,为BP网络确定了隐层单元数和输入、输出层的初始权值,有效减少网络训练过程的迭代步数、加快了算法收敛速度,并且有效避免了网络求解陷入局部最小,并通过实例验证了PLS-BP网络模型在舰船维修费用预测中的可靠性,能为舰船维修费用计划管理工作提供良好的方法支持。
参考文献
[1] 钱筱丹,黎放,卞金露．偏最小二乘回归在舰船维修费用预测中的应用[J]．舰船科学技术,2007,29(4):98～100．
[2] 张艳粉．基于偏最小二乘的BP网络模型及其应用[D]．重庆大学硕士论文, 2007．
[3] 李德启,魏衍君．基于BP网络算法的分析与研究[J]．重庆文理学院学报,2009(5)．
关键词:BP神经网络 偏最小二乘法 舰船维修费用
中图分类号:O241.5 文献标识码:A 文章编号:1674-098X(2011)11(c)-0107-02
引言
随着舰船装备的系统性能和复杂程度越来越高,维修费用急剧上涨,在舰船整个寿命周期费用中占有较大比例,一般为70%以上,因此做好舰船维修费用管理,是提高舰船使用效益的重要工作。而维修费用的预测,是进行舰船维修费用计划管理的重要任务。影响舰船维修费用的因素比较复杂,有舰艇的技术性能、工业技术水平、物价变化、修理级别、地区差别、维修制度、复杂程度、排水量及造价等[1]。这些因素有些可以量化,有的只能进行定性分析,对舰船维修费用的预测造成一定难度。随着偏最小二乘法研究的不断深入和神经网络的出现,两者的融合运用越来越受到国内外学者的青睐[2]。本文针对影响舰船维修费用的因素多和样本数据少等特点,利用PLS在解决多变量之间的相关性问题上的优势和BP神经网络强大的非线性辨识特性,提出了一种基于PLS的BP网络的舰船维修费用预测方法。
1 基于PLS的BP网络模型
1.1 BP网络算法的局限性分析
BP算法主要存在的局限性有四个方面:(1)收敛速度慢;(2)易陷入局部极小;(3)网络的容错性差;(4)输入层、输出层初始权值的选取、网络隐含层数及隐含层单元数的选取尚无统一的理论指导[3]。其中,隐节点的选取是一个十分复杂的问题,隐节点数太少导致训练精度无法满足甚至训练无法完成,但隐节点数太多又使学习时间过长,误差也不一定最佳,网络隐含层数及各隐含层单元数的选取一般根据经验确定,因此,网络往往具有较大的冗余性,也增加了网络学习的时间。
通常情况下,BP算法初始权值的选取为[0,1]内的一组随机数,经过反复的调整,获得稳定的权值。但是这种选取方法但它并不能保证所求的解为误差超平面的全局最小解,很可能是一个局部极小解,得不到全局最优解。
1.2 PLS-BP网络模型构造思路
本文提出了基于PLS的BP网络模型,它能很好的确定初始权值、隐层节点数,跳出局部极小,减少迭代步数,提高学习效率,使网络精度达到最优。
PLS-BP建模步骤为:(1)设X、Y为BP网络输入、输出矩阵,并把样本集分为训练样本和检验样本;(2)利用PLS法得到主成分数m,主成分与X、Y的权值;(3)用主成分数m确定BP网络的隐层节点数,分别确定输入层和输出层的初始权值,开始网络训练;(4)根据检验集预测结果与相应真实值之间的平均相对误差作为目标输出的接纳标准,确定符合精度要求的目标;(5)训练结束。PLS-BP训练过程如图1所示
2 PLS-BP网络模型的建立与验证
2.1 数据准备
为了验证PLS-BP预测模型的正确性和可靠性,以某型舰船为例,收集该类四艘舰船在1989～2004年间发生十次大修数据建立数学模型。PLS-BP网络模型使用Matlab作为平台,应用PLS算法得到的主成分数和主成分与X、Y的权值对BP网络进行改进。采用有动量的梯度下降法进行网络训练,取学习效率=0.06,动量因子=0.9,最大训练次数1000次,训练目标精度e=0.001。
2.2 主成分的选取
采用Matlab编制上述数据的交叉有效性指标算法,测量主成分tm对预测模型的解释能力,并选取主成分数。计算结果如表1所示。
上述表格说明提取第一主成分t1时,模型对X、Y的解释能力分别为0.465和0.837, Q2=0.790>0.0975,继续提取成分;提取第二主成分t2时,模型对X、Y的解释能力分别为0.285和0.128,累积解释能力达到0.750和0.965,Q2=0.738>0.0975,继续提取成分;提取第三成分t3时,模型对X、Y的解释能力上升不大,此时Q2=-0.343<0.0975,故停止提取成分。最终取两个主成分数作为BP网络的隐层单元数对数据进行预测。
2.3 预测结果与分析
另外收集该型号三艘舰船最近一次大修成本数据(表2),分别利用PLS、BP网络、PLS-BP网络三种模型对当前数据进行预测,结果如表3。
由表3可见,PLS、BP网络和PLS-BP网络模型在舰船维修费用预测中的平均相对误差分别为2.73%、6.33%和0.49%,实验结果表明PLS-BP网络模型获得了较高的预测精度,较另外两种方法预测效果有明显的优势。
4 结语
本文研究了偏最小二乘法和多层前馈神经网络的结合应用,并设计了PLS-BP网络模型。该模型充分利用了PLS在解决变量之间的相关性问题上的优势,为BP网络确定了隐层单元数和输入、输出层的初始权值,有效减少网络训练过程的迭代步数、加快了算法收敛速度,并且有效避免了网络求解陷入局部最小,并通过实例验证了PLS-BP网络模型在舰船维修费用预测中的可靠性,能为舰船维修费用计划管理工作提供良好的方法支持。
参考文献
[1] 钱筱丹,黎放,卞金露．偏最小二乘回归在舰船维修费用预测中的应用[J]．舰船科学技术,2007,29(4):98～100．
[2] 张艳粉．基于偏最小二乘的BP网络模型及其应用[D]．重庆大学硕士论文, 2007．
[3] 李德启,魏衍君．基于BP网络算法的分析与研究[J]．重庆文理学院学报,2009(5)．