基于自适应粒子群算法的神经网络学习优化研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:ilovegigi2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络(Artificial Neural Network,简称ANN)已经广泛应用于模式识别、工业控制、经济预测、优化计算等领域,但由于缺乏坚实的理论基础,其拓扑结构设计规则和学习算法一直都是科研工作者研究的重要内容。 粒子群优化算法(Particle Swarm Optimization,简称PSO)是近年来发展起来的一种基于群智能(Swarm Intelligence)搜索的演化计算技术,它从新的角度开辟解决复杂问题的优化途径。该算法建立在严格的理论基础上,具有很强的自组织学习性、自适应性和鲁棒性,适用于并行处理,尤其在高维、多峰、不可微(导数很难求)、连续或离散空间中搜索优化解。 粒子群优化算法和神经网络都具有模拟生物智能化的学习能力,对两者结合的研究逐渐成为当前的热点之一。许多研究人员希望通过结合两者的长处,寻求一种更为有效解决网络设计与优化问题的方法,从而,使得能够更好的理解学习和进化的相互作用关系。在神经网络中应用粒子群优化算法,能有效地克服采用梯度下降法所导致的缺陷。 本文在介绍神经网络和粒子群优化算法的理论基础上,分析了粒子群算法在神经网络结构设计和优化中的应用。通过改进粒子群算法的编码方式和自适应搜索策略方法,提出一种新的基于面向对象的自适应粒子群优化算法(Object-oriented Particle Swarm Optimization,简称OOPSO),并将OOPSO算法用于前馈神经网络的学习训练,以及网络拓扑结构进行设计与优化,结合Iris和Ionosphere标准数据集进行算法测试,最后与其它经典学习算法进行比较。 实验结果表明:基于OOPSO算法训练的多层前馈网络在分类准确率上明显优于BP算法以及标准PSO算法。与BP算法相比,OOPSO收敛速度快且不易陷入局部最优;与标准PSO相比,OOPSO能克服种群多样性易丢失和收敛速度慢等问题。OOPSO算法取得了明显的网络优化效果,提高了神经网络的自适应能力和泛化能力,具有全局快速收敛的性能。
其他文献
设C为复数域,R为实数域,m,n是两个任意的正整数.记Mn(C)和Hn(C)分别为R上n×n全矩阵空间和n×n复Hermite矩阵空间. T1表示Hn(C)到Mn(C)保幂等的线性映射,其全体记为N2(Hn(C),Mn(C))
最优化问题,尤其是大规模优化问题广泛见于经济计划、工程设计、生产管理、国防与航空航天等重要领域,因此构造大规模优化问题的计算方法,研究这些方法的理论性质及其实际计算表
作为高性能网络的一种关键机制,IP多播以其高效率的传输性能,受到了研究学者的广泛关注。但是,由于自身存在的一些缺陷,使得IP多播未能得到广泛的部署应用。因此,一些学者提出了应
粒子群优化算法是群体智能算法的一个新的范例,它是现代启发式最优化算法中的一个新算法。粒子群优化算法起源于社会心理学和人工生命,由于受到群体智能领域的强烈启发,Kenne
计算机的发展影响着社会的方方面面,教育系统也不例外。学生的成绩是学生学习和教师劳动的体现,也是国家、社会选拔人才的参考材料之一。本着为提高阅卷教师的工作效益、评卷
中国石油西南油气田重庆气矿垫江作业区管理着天然气井117口,日产气200万立方米,现有员工467人。自2000年中国石油重组改制以来,作业区立足生产经营实际,确立新的党建工作理
曾福生的父亲曾(月午)仔,1932年9月在红十军攻打浦城战斗中光荣牺牲。曾福生于1933年6月到赣东北投奔方志敏领导的红十军,曾参加过第五次反“围剿”和三年游击战争。后因他
本文主要研究流体力学中的Navier-Stokes方程组及燃烧理论中反应流体动力学方程组,共分三章. 在第一章中,考察粘性与流体密度相关的等熵的多方可压气体的自由边界问题整体解
通过利用积分平均法和黎卡提变换技巧,得到了判定Emden-Fowler型中立型时滞微分方程和偶数阶带阻尼项非线性时滞微分方程振动性的一些新的准则。这些结果改进和推广了已有的结
本文应用Nevanlinna基本定理和Ahlfors覆盖曲面基本理论,研究了亚纯函数和代数体函数的辐角分布及其唯一性。特别地,我们研究了亚纯函数和代数体函数的Nevanlinna方向和T方向;高