基于非线性滤波优化的前馈神经网络训练方法研究

来源 :河南大学 | 被引量 : 0次 | 上传用户:yanhui516
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络技术(ANN)经过几十年的发展,其相关的理论体系也越发完善。随着研究的不断深入,其在模式识别、故障诊断、最优控制、目标追踪以及金融时序预测等领域取得了广泛的研究和应用。决定神经网络使用效果好坏的关键在于训练算法,已有的训练算法对于问题规模较小、训练数据未受噪声污染的情况能够取得较为理想的训练效果。但是在当前新形势的应用背景下,问题规模往往较大、训练数据也更易受噪声污染,传统的训练算法无论是在收敛速度还是在训练精度上均不能满足要求。非线性滤波算法作为非线性系统状态的最优估计,已经广泛应用与参数估计、系统辨识等领域,其对于噪声的适应能力强,具有全局优化的能力。经过国内外众多专家学者的共同努力,已经成功将非线性滤波算法应用于神经网络的训练,取得了良好的训练效果。本文在具体分析神经网络以及非线性滤波理论发展现状的基础上,提出了两种基于最新非线性滤波研究成果的前馈神经网络训练算法。现有利用扩展卡尔曼滤波(EKF)对多层感知器神经网络进行训练的过程中,存在较大的一阶舍入误差从而影响神经网络的训练效果;利用不敏卡尔曼滤波(UKF)对多层感知器训练过程中存在参数选取复杂,容易产生非正定的问题。针对以上问题,本文首先提出了一种基于最新非线性滤波研究成果——容积卡尔曼滤波(CKF)的多层感知器训练方法。考虑到非线性滤波算法是在状态空间模型下实施的,首先将多层感知器的连接权值以及偏置节点作为状态向量,将网络的输出作为量测建立多层感知器的状态空间模型;然后利用系统的量测信息并结合CKF算法得到连接权值向量的最优估计,从而完成网络的训练;最后通过一个典型的非线性系统方程以及Mackey-Glass时序预测对所提方法进行验证,结果表明所提训练方法相比于已有方法不仅训练精度有所提高,而且效率更好。考虑到高斯-牛顿迭代策略能够充分利用已有信息来提高非线性模型参数的估计精度,本着提高已知信息的的利用率、进一步提高神经网络的训练精度为目的,提出了一种基于迭代容积卡尔曼滤波(ICKF)算法的径向基神经网络训练方法。首先详细分析径向基网络与多层感知器网络隐含层激活函数工作方式的不同;其次将径向基函数的中心节点以及输出层的连接权值共同作为状态向量建立径向基网络的状态空间模型;然后将ICKF引入径向基网络的训练;最后通过一个单输入单输入以及一个多输入多输出模型对所提方法进行验证,结果表明所提方法不仅能有效提高单输入单输出模型的训练精度,而且对于多输入多输出模型也同样适用。
其他文献
随着经济的不断发展以及人们生活水平的日益提高,人们对家庭住宅环境的要求也越来越高。人们希望能够随时随地的了解家庭住宅中发生的情况,以免引起不必要的损失。正是基于此
随着社会的发展,劳动力成本越来越高,机器人作为一种可替代人生产作业的产品逐渐开始走进人类生活,21世纪机器人呈现飞速的发展,各类机器人得到开发与研制,被广泛应用于工业生产、
电学层析成像(Electrical Tomography,ET)技术是近年来发展起来的一种新型检测技术,由于其具有无辐射、非侵入、响应速度快和价格低廉等优势,在工业过程成像和医学成像等领域
随着电子科学发展,微处理器、硬件和计算机设备等更新换代,医学影像技术取得了巨大发展,并逐步有效辅助临床诊断。不同的成像技术产生不同模态的人体医学图像,然而单一模态的
智能电网的建设给电力行业的发展带来了机遇和挑战,随着电动汽车和大型电力电子设备接入电网,电网的结构将变得越来越复杂,电网的运行状态必将会受到严重的影响。电网运行状态的好坏直接关系到电力系统生产和运行的安全稳定。因此,对于电网运行状态评估技术的研究显得尤为的重要。从电网运行状态评估中的潮流计算出发,本文通过研究输电线路的热平衡方程,明确了输电线路导体的能量转化机制,分析了电力元件之间的热阻模型,并对
长行程和高精度是当前驱动进给系统面临的需求和挑战。以传统电机作为宏执行器,虽然能提供较大的行程,但是响应速度慢和精度低的缺陷,使其难以在精密定位系统中发挥作用。而
实际工业对象往往存在模型不确定性,采用定常数学模型的预测控制系统难以获得期望的控制性能,甚至系统的稳定性也难以得到保证。因此,针对不确定系统开展鲁棒预测控制理论研究具
液位监测是石油开采行业乃至整个工业领域的一项重要工艺技术,其运行情况的好坏与精度,对平稳、安全的生产流程会有直接的影响。及时准确的获取液位监测仪器反应的异常工况,
车牌识别技术是智能交通系统的重要组成部分。但是,由于现有车牌识别技术尤其是车牌定位技术存在对环境变化敏感,受图像质量、光线等影响大等问题,对相关产品的施工条件提出了苛
近年来,随着海水淡化技术、太阳能热利用及热泵技术的迅速发展,太阳能供海水淡化技术也逐步成为目前能源界研究开发的热点,太阳能热泵技术的发展也同样逐步得到推广。就基于