基于天牛须搜索算法优化的神经网络在模式分类中的应用

来源 :杭州电子科技大学 | 被引量 : 0次 | 上传用户:qiushuiweishen
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机的发展,计算能力的增强,人工神经网络作为模式识别的重要代表性成员也成为了人们的研究热点。其中基于梯度下降(Gradient Descent,GD)算法的反向传播(Back Propagation,BP)神经网络是在应用方向研究最为成熟的模型之一。然而基于GD算法的BP神经网络模型存在缺点,例如,算法的收敛速度慢,容易陷入局部最优以及无法确定最优的神经网络结构等。天牛须搜索(Beetle Antennae Search,BAS)算法结构简单,参数少。本文将BAS算法用于替换BP神经网络模型中的GD算法,训练模型参数,以弥补基于GD算法的BP神经网络模型存在的不足。主要研究内容如下:第一,本文针对基于GD算法的BP神经网络模型存在的收敛速度慢的问题,提出了一种将BAS算法与BP神经网络相结合的模型,简称BASNNC(Beetle Antennae Search Neural Network Classifier)。BAS算法被用于优化BP神经网络的权重。此时,神经网络中的GD算法被替换成BAS算法来优化权重。BAS算法是一种启发式搜索算法,相对于遗传算法等其他搜索算法,BAS算法的优点是只需要单个个体,运算量大大降低。本文进行了两个测试函数的验证和9个UCI数据集上的分类应用。实验结果证明,本文所提出的算法在达到与基于GD算法的BP神经网络分类模型的同等分类效果的同时,不仅降低了计算复杂度,也加快了算法的收敛速度。第二,本文针对基于GD算法的BP神经网络模型无法确定最优的神经网络结构这一挑战,提出了一种天牛须搜索网络结构(BAS Neural Architecture Search,BAS-NAS)算法,用来进行最优神经网络结构的搜索,又提出了改进的BASNNC(improve BASNNC,i BASNNC)算法来满足对神经网络中更多参数和权重的优化。本文的网络结构搜索主要是针对三层神经网络(包括输入层,隐藏层和输出层)中的隐藏层的神经元结点数进行优化。目前最常用的隐藏层神经元结点数确定的方法是试凑法,即根据经验和多次参数调试得到。本文采用BAS-NAS算法结合i BASNNC算法来自适应的得到较优的参数组合,从而形成较好的神经网络结构。通过MATLAB仿真实验证明,改进后的神经网络模型的分类准确率得到了提高。
其他文献
时标理论将连续分析与离散分析完美地统一结合,在现实生活中拥有广泛的应用.时标理论的研究有助于丰富非线性动力系统理论内容.动力学方程的非振荡解的存在性问题是时标理论的一个重要的研究课题,具有一定的理论价值和现实意义.本文,主要利用不动点定理来研究时标上的一类由一阶动力学方程构成的二维动力系统的非振荡解的存在性问题,并使用分类讨论,反证等方法得到该二维动力系统在S+和S-情况下非振荡解存在的充要条件以
资金是制约企业发展的重要因素之一,对于创业企业来说,风险投资是一种重要的融资方式。风险投资的出现,打破了传统融资方式的局限性,同时对于企业创新的推进具有重大的意义。
作为民族文化资源的富矿区,近年来,云南少数民族传统文化旅游业发展如火如荼,民族文化旅游已成为该省新的经济增长点。但是,目前对少数民族传统文化的保护主要采取行政手段,而民法手段和相应的法律制度存在空白。这不仅造成少数民族群体保护意识不强,保护动力不足,参与度不强,导致传统文化大量流失,也限制了民族文化的创新利用与少数民族传统文化旅游业的健康发展。在此背景下,研究运用知识产权制度,建立健全少数民族传统
随着电子信息技术的快速发展,人们获取的数据描述已经从过去的单视图描述演变成无处不在的多视图描述。与传统的单视图数据相比,多视图数据对于学习任务具有更好的表达能力,且隐藏在不同视图描述之间的互补信息可有效提高学习任务的稳定性和泛化能力,因此多视图数据在众多研究领域中具有着十分重要的意义和价值。在多视图学习领域中,多视图聚类是一个重要的研究内容。近年来,基于张量奇异值分解的低秩描述的多视图聚类算法因为
为促进我国农业现代化发展,解决农业“融资难”、“融资贵”的问题,国家财政部、农业部和银监会于2015年联合发文,要用三年的时间建立覆盖全国的、政策性、专注农业、相对独立的农业信贷担保体系,打消银行等资金供应者在农业信贷风险方面的顾虑、降低农业经营主体的综合融资成本,发挥衔接新型农业经营主体和资金供给者的“桥梁”和“纽带”作用,将更多金融活水引入农业农村发展领域。农业信贷担保体系是具有“政府+市场”
折射率是晶体的一个重要基本参数,是研究晶体光学性质的基础与前提。同一个晶体的折射率随传导波波长的变化而变化,所以晶体的折射率测量值对其所应用的系统起着至关重要的作用。对于新研制的材料来说,往往需要测量折射率等光学参数。一些传统的折射率测量方法对材料有种种方面的限制,例如尺寸、特殊形状等等,这些方法用于折射率测量时既费时费力,又会对材料造成浪费。还有一些方法有折射率测量范围的限制,这导致其不能对某些
羟基磷灰石(HA)具有优异的生物活性和骨诱导性,HA化学组成与结构和人体硬组织十分相似,是一种非常有应用价值的骨组织替代材料。HA材料的缺点是极易吸附蛋白质、氨基酸和其他有机质,导致细菌的滋生,此外其力学性能也尚有不足,这就很大程度上限制了它的使用。本研究采用水热法合成载银羟基磷灰石(Ag-HA)粉体,使HA粉体具有良好的抗菌性能。同时采用添加造孔剂法制备孔隙呈现梯度分布的梯度多孔载银羟基磷灰石(
软件定义网络(Software-defined networking,SDN)作为一种新型网络架构,其灵活控制、可编程的特点受到业界青睐。为减少同构控制器间可能造成的攻击感染,近年来有人将动态异构冗余的思想引入SDN控制层,提出了异构SDN控制器架构。最近,异构SDN控制器架构已经被应用于云数据中心、车联网及智能电网等场景中。不同于传统SDN网络只有部署在控制器本地的应用程序,越来越多的控制器应用
近几年,我国经济发展方式发生了重大的变化,从注重速度,逐渐转变为了注重发展质量。因此,我国的各个行业的发展方式也开始逐步发生变化,工程招标行业也不例外。经过了多年的高速繁荣发展,工程招标行业开始出现一系列的问题,如增长乏力、经营困难、收入减少等。在经济增长方式转变的大潮中,工程招标行业将如何生存和发展,这是一个值得研究的课题。J工程招标公司是J市工程招标行业的头领企业,其脱胎于国企,由于国家要求政
在虚拟试衣、3D游戏、3D电影等相关领域,均离不开三维人体数字化建模的研究。特别是在服装设计、服装订购、虚拟试衣等行业,三维人体建模的精度直接影响后期的效果。在服装应