基于进化计算的前向神经网络学习算法研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:yxyqt
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
对复杂系统进行仿真及建模研究,一直是系统仿真领域的研究难点和研究热点。由于系统规模、环境、信息以及任务日趋复杂,系统包含严重的非线性、不确定性,不确知性和不能预测的突变性等,应用传统机理的一些建模方法,已几乎无法建立其精确的数学模型。  人工神经网络通过大量互连神经元之间连接权值的分布存储来表示网络的解题知识,具有并行处理、自学习和能以任意精度逼近任意非线性函数等特性。神经网络具有的这些优点使其适宜于复杂系统建模中;但神经网络在应用中还存在的一些问题,譬如网络学习局部极小,收敛速度缓慢,网络结构设计复杂及泛化性能弱等等,神经网络的这些缺陷阻碍了它在其它领域中应用。神经网络学习从本质上说是网络结构与权值的优化过程,神经网络这些局限性都不可避免地会牵涉到网络学习中的优化问题,采用传统确定性搜索方法已很难有效解决。进化计算是一类模拟生物进化过程与机制求解问题的人工智能技术。与传统优化方法不同,进化计算方法具有智能性和本质并行性两大特点,它不受对象目标函数连续可微条件约束,在一些离散、多态、含噪声的优化问题中更显示出该方法独特的优势,进化算法具有的这些优点为解决神经网络自身缺陷提供了一条全新可行途径。  本论文在前人工作基础上,针对前向网络在复杂系统建模中亟需解决的若干问题,深入研究了采用进化计算方法改善神经网络在系统建模中的学习性能,并相应提出了新的方法和实现策略。  首先,在网络结构固定情况下,针对传统BP学习方法对网络学习易陷于局部极值、学习精度不高等缺陷,提出一种基于梯度粒子群优化神经网络权值的学习方法。该方法将BP操作作为一算子嵌入到PSO算法中,采用混合交叉训练方式,在每一代进化过程中都在精英粒子附近再进行BP搜索,获得精度更高优化解,并引导群体快速进化;该方法还引入”变异“思想,对群体粒子位置不给以界限约束,而用新产生随机粒子取代飞离搜索区域粒子,减轻算法在进化后期早熟、收敛停滞的缺陷。实验结果表明该学习方法学习精度高,收敛速度快,在性能上优于常规神经网络的学习方法。  其次,研究了一种前向网络结构与权值并行调整优选方法。针对单一进化算法对复杂优化问题存在早熟收敛、优化效率低的问题,提出一种粒子群优化方法与实数编码遗传算法相结合的混合改进遗传算法(HIGAPSO)。该方法采用混沌序列产生初始种群、非线性排序选择、多个交叉后代竞争择优和变异尺度自适应变异等改进遗传操作;并通过精英个体保留、粒子群优化及改进遗传算法(IGA)三种策略共同作用产生种群新个体。理论证明HIGAPSO具有概率为1的全局收敛性,实验结果也表明该方法显著提高了算法优化性能及其优化解的可靠性。在此基础上,利用HIGAPSO方法并行优化前向网络结构与权值,提出一种基于混合进化策略的网络结构与权值并行调整优选方法,该方法在神经网络每互联节点连接之间还引入开关系数,由开关系数控制网络结构,并由网络连接权值参数决定网络输入输出关系,通过HIGAPSO混合算法搜索空间内优选一组最佳开关系数与权值参数组合。仿真结果表明该方法设计的网络学习精度高,结构更为节俭。  然后,研究了利用粒子群算法对径向基网络(RBF)的设计问题,建立径向基网络模型关键在于确定网络隐中心向量、基宽度参数和隐节点数。为设计结构简单,且具有良好泛化性能径向基网络结构,提出了一种RBF网络的两级学习新设计方法。该方法在下级由正则化正交最小二乘法与D-最优试验设计结合算法自动构建结构节俭的RBF网络模型;在上级通过粒子群优化算法优选结合算法中影响网络泛化性能的三个学习参数,即基宽度参数、正则化系数和D-最优代价系数的最佳参数组合。仿真实例表明了该方法是一种较好的RBF网络设计方法。  最后,将前梯度粒子群优化网络权值学习方法、基于HIGAPSO算法的前向网络结构与权值并行调整方法和RBF网络两级学习方法应用于航空领域直升机自转着陆过程旋翼转速模型中,与其它常见的网络学习方法做比较,并分析本文方法优缺点及适用场合。应用结果表明本文所提出的基于进化计算神经网络建模方法很大程度上降低了对被仿真对象先验知识要求,所建模型具有较高精度,适合于复杂系统的建模。
其他文献
网络化控制系统是以网络作为信息传输媒介的控制系统。相比于传统基于点对点通信的控制系统,网络化控制系统具有许多优点,如布线成本低,安装方便以及系统扩展性强等。目前,网
近年来,随着机器人智能化程度的不断提高,应用领域也从简单的焊接、搬运扩展到打磨、抛光和装配等需要与环境相接触的任务。当机器人执行与环境相接触的任务时,单纯的位置控
为了促进残疾人康复和改善残疾人的生活质量,许多国家利用机器人技术和智能控制技术来对残疾人的护理,开展了对智能轮椅,智能护理床等智能设备的研究。智能轮椅的种类是面向不同
以基于扩散张量成像(Diffusion Tensor Imaging,DTI)方法的各项异性(Fractional Anisotropy,FA)和平均弥散系数(Mean Diffusion,MD)值为指标研究黑质区域是帕金森综合症(Park
自从上世纪70年代Mackey和Glass发现时滞系统里也存在混沌现象以来,人们对于非线性时滞动态系统的混沌控制越来越感兴趣。目前,时滞混沌系统已经成为了控制理论与控制工程领
本文介绍了满足不同类型的电工电子产品电气安全性能综合测试技术的研究成果,重点介绍了电气安全性能综合测试系统中控制系统的设计,主要内容包括:   系统地分析比较不同
为了克服传统PID控制理论上不适用于非线性系统、多变量系统、时变系统和不确定性系统以及神经网络控制收敛速度慢、计算量大、结构不确定的弱点,我们将传统PID控制规律和神经
Pencey是周娌因(Carol Chow)于2004年开始推出的珠宝系列,它以丰厚的文化积淀、美学和风尚创造出独特的充满灵感的作品。周娌因的设计混合了不同的元素:高雅艺术与街头艺术,
感应电机的高性能控制是现代工业的迫切要求。论文以高性能感应电机调速系统为研究对象,结合自抗扰控制理论,针对电机控制的非线性和不确定性问题,在转子磁通观测器、具有磁通稳定能力的通用变频器-感应电机控制系统的理论设计及感应电机矢量控制器设计等方面进行了深入的分析和计算机仿真研究。转子磁通的准确观测是实现感应电机高性能控制的关键。论文较为系统地定性定量分析了两种基于自抗扰控制的磁通观测器。在分析电机数学
足底矫形器作为一种以减轻足底骨骼肌肉系统的功能障碍为目的的支撑装置,可以用于矫治足部各种疾患。为了提高足底矫形器的性能和制作成功率,本文对足底矫形器CAD系统进行了