【摘 要】
：
神经进化对于神经网络的进一步发展起着决定性的作用。传统的浅层神经进化方法多以改变网络初始权值为主,不能最大化提高神经网络的精度;深层神经进化方法的出现为自动设计神经网络结构的研究开辟了一条新的途径,但在如何定义网络结构的搜索空间,以及如何设计有效的搜索策略上仍有较大的改进空间。针对上述问题,提出了基于仿生优化算法的神经进化方法体系,该方法体系从优化理论的角度对神经网络的权值空间和结构空间进行了定义
论文部分内容阅读
神经进化对于神经网络的进一步发展起着决定性的作用。传统的浅层神经进化方法多以改变网络初始权值为主,不能最大化提高神经网络的精度;深层神经进化方法的出现为自动设计神经网络结构的研究开辟了一条新的途径,但在如何定义网络结构的搜索空间,以及如何设计有效的搜索策略上仍有较大的改进空间。针对上述问题,提出了基于仿生优化算法的神经进化方法体系,该方法体系从优化理论的角度对神经网络的权值空间和结构空间进行了定义,提出了权值空间和结构空间下的仿生优化算法,建立了以浅层神经网络和深层神经网络为研究对象的神经进化方法。在浅层神经进化方面,提出了基于精英启发式操作和移民策略的改进遗传算法(IGA)和基于自适应影响权重的改进郊狼优化算法(ICOA),应用于BP神经网络的权值空间提出基于IGA的浅层神经进化方法和基于ICOA的浅层神经进化方法。在深层神经进化方面,提出了卷积神经网络的结构空间,解决了神经结构搜索(NAS)的搜索空间设计,提出了卷积神经网络结构空间下基于GA的深层神经进化方法,解决了设计深度学习模型时众多的超参数和网络结构参数会产生爆炸性组合的问题。神经进化方法采用高效的仿生优化算法作为搜索策略,自动获得泛化能力强、硬件友好的神经网络,可以大大降低研发成本,解放研究员的劳动力,具有重大的现实意义。该论文有图24幅,表8个,参考文献95篇。
其他文献
自第一台CT机成功研制以来,X-射线技术就成为医学临床诊断的一种手段。随着X-射线技术的大量使用,射线所固有的辐射危害引起了广泛关注。低剂量CT扫描技术由于减少了对人体的辐射剂量被广泛应用于临床医学诊断,但是低剂量CT扫描会使得图像带有条形伪影和噪声,信噪比降低,影响医师对患者的精准诊断。因此如何提高低剂量CT图像的质量成为CT研究领域的一个热点。本文采用深度学习方法提高低剂量CT图像的质量,主要
Web 2.0时代,Web服务数量飞速增长,基于Web集成的Mashup在兴起之后,也随之急剧增加。Mashup技术为更快速、更方便地开发新的Web服务提供了可能,但服务数量的快速增长使Mashup
近年来,社会化进程逐步加快,使得城市基层治理受到重视,进而对社区的重视程度也逐渐加强。这使得社区所承担的功能及发挥的作用也越来越多,即包括着满足居民需求、丰富居民生活、促进邻里和谐等各方面,也就是说,社区是由生活在某个地理区域的人组成的社交生活社区。随着对社区重视程度的提高,社区治理也越发重要,然而对于社区治理不能光靠政府进行,还要发展基层群众自治,因此,社区社会组织便应运而生。在当前大力开展社区
学界对当代中国农业转型的研究出现了很多争论,但基本都不否认农业资本化是客观趋势与普遍现象。那农业资本化的机制是什么呢?为了回答这个问题,本文重点探讨了具有自然和社会双重性的农业对资本化的阻碍作用是如何被克服的。本文采取“结构——行动”的分析框架,核心机制是“结构—行动”以多样化的途径共同推动了农业资本化,即具有自然和社会二重属性的农业会对资本化形成阻碍,但这种阻碍是可以通过多种组合的方式被克服,而
目前,5G时代近在咫尺,“连接”成为了最为重要和基础的特征。在此背景下,“大连接”将成为中国移动持续创新的发展趋势,这对移动技术的创新与科技管理提出了更新更高要求,而创新的活力最终取决于公司竞争性科技型人才队伍水平。因此,移动公司亟需进行人力资源管理创新型发展以适应移动新型信息化竞争。作为永州规模最大的通信运营商,中国移动永州分公司目前面临着日益严峻的科技人才竞争形势。一方面,由于公司在科技人才的
近年来,财务舞弊案层出不穷,引起了资本市场的混乱,挫败了投资者的信心。为了规范我国资本市场的秩序,提高财务信息的质量,我国制定了一系列的规定。2010年,我国政府发布了《企业内部控制配套指引》,其涵盖了18条具体指引。其中,《企业内部控制审计指引》规定,2012年,内部控制审计应该首先在我国主板上市的公司中实行。并提出,两种审计业务既有区别又有联系。该指引中还指出:财务报表审计和内部控制审计既可以
纯铁材料因其优异的塑性、耐冲击韧性、电磁性能,广泛应用于航空航天、能源动力、国防军工等领域。但纯铁属于典型的难加工材料,切削纯铁过程中切削变形大、加工硬化严重、刀
对于具有大量资源的出版行业来说,个性化推荐是解决信息超载的一个有效方法。在推荐算法中,矩阵分解算法取得了很好的推荐效果,但是也存在一些问题。本文以矩阵分解算法为基
随着社会和经济的发展,社会人口压力增大,人口老龄越趋严重。老年人的心理健康问题引起社会的关注,社会工作事务所和社工承担了政府购买老年人心理健康和精神陪伴项目实施工作。本研究通过项目中社区情绪舒缓活动在改善老年人状态是否有作用进行行动研究和问卷调查。通过对194名老人针对项目和群体需求,依据理论和社会工作经验设计并开展社区活动,活动后进行活动满意程度调查发现:总体来看80%以上的老人对此次活动是满意
而今社会随着信息科学技术的不断加快发展,我们对信息的需求量也越来越大。但是现在以硅为基础的电子器件已不能满足我们的生活需求,新兴学科-分子电子学就应运而生。研究者