基于遗传算法的卷积神经网络架构搜索研究

来源 :南京信息工程大学 | 被引量 : 0次 | 上传用户:jinlu2010
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卷积神经网络(Convolutional Neural Network,CNN)是深度学习算法中最具代表性的模型之一,但是CNN的设计过程十分的耗时耗力,针对这一问题,研究人员提出深层神经网络架构搜索(Neural Architecture Search,NAS),即CNN的设计与训练过程自动化。由于资源消耗相对较少,搜索性能高等优势,演化计算成为了NAS领域重要的搜索框架之一。目前基于各种演化计算的框架被提出,本文在这些理论方法基础之上,分析当前演化计算框架的优点及不足,探索高效的演化计算方法,从而获得训练时间更短,参数量更少同时更能适应复杂数据集的CNN模型架构。因此,本文的主要工作概括如下:(1)提出基于置信度的新型注意力机制网络。目前大部分注意力机制没有充分模拟人类视觉系统,即通过差异对物体进行甄别。针对该问题,本文提出一种基于局部与全局感受野之间差异性的新型注意力机制网络。该网络提取局部与全局上下文信息,并使用两者之间的差异性对输入进行矫正。实验表明基于置信度的注意力机制使用更少的参数就能获得更高的性能收益。(2)提出基于遗传算法的注意力网络架构搜索方法。针对传统注意力机制手工设计局部感受野尺寸耗时且性能不理想等问题,本文提出基于遗传算法的注意力感受野设计方法。该方法将整个网络的感受野尺寸编码成个体和种群,模拟种群进化,进行交叉和变异操作,形成最优的感受野组合。实验表明,基于遗传算法的注意力机制网络架构搜索方法搜索出的感受野尺寸组合更适合网络模型。(3)提出基于遗传算法的神经网络架构搜索的睡眠分期分类方法。针对传统睡眠分期分类的机器学习方法存在可扩展性差与设计训练过程耗时等问题,本文提出一种针对睡眠数据的加入可训练核系数CNN模型;同时,提出一种基于遗传算法的高效深层卷积神经网络架构搜索算法搜索出这种高效的CNN架构。本文首先在每个卷积核上绑定一个可训练的系数,然后使用基于遗传算法的深层卷积神经网络搜索框架生成这种高效的CNN结构。实验表明,该方法可以大幅提升睡眠信号处理的性能与睡眠分期分类的精度,同时减少了网络设计的时间消耗。
其他文献
青年教师作为振兴乡村教育的主要实施者与骨干力量,提升乡村学校青年教师的专业发展水平显得尤为迫切与重要。为加快乡村学校青年教师的专业发展,本文尝试建立名师片区指导制。本文介绍了名师片区指导制提出的必要性、内涵、内容与形式、价值、实施原则与程序以及具体展开策略,希望有利于乡村学校青年教师的专业发展从“输血”向“造血”转换。
<正>推进党的组织覆盖和工作覆盖(以下简称“两个覆盖”)工作,是筑牢党在小微企业、个体工商户和专业市场(以下简称“小个专”)等非公经济领域组织基础的重要手段,也是延伸党对非公经济领导触角的有效途径,更是着眼加强党执政地位的政治考量。市场监管部门是管理服务“小个专”的职能部门,抓好“小个专”“两个覆盖”工作责无旁贷。
期刊
现阶段世界各国无人装备技术高速发展,无人装备更新换代频繁,但与之相匹配的无人装备作战试验相关理论、方法、技术和人才建设等内容都相对滞后。针对无人装备作战试验发展与无人装备发展不匹配的问题,从作战试验的基本概念入手,研究定义无人装备作战试验内涵;通过分析对比无人装备与有人装备的异同,从作战试验的任务、内容、指标性质、试验过程和数据采集技术方法手段等方面探索总结无人装备作战试验的特点;通过梳理无人装备
<正>随着科技的迭代发展,全球军事领域的竞争转入以无人化为先导的攻防革命,多兵种联合作战、网电一体战、无人装备集群等新的作战模式逐步呈现。无人作战成为国与国之间竞争的新高地,成为科技、财力和智力竞争的载体,打破了通用武器装备在有人使用的生理局限(速度、质量、高度、深度、续航等),
期刊
以广东省湛江市三岭山退化桉树林地作为广东热带季雨林生态修复示范地,从树种选择、造林模式及造林技术等方面探讨热带季雨林生态修复实施后的高效栽培技术,推动雷州半岛生态修复工程,实现雷州半岛及周边区域生物多样性、生态稳定性、景色优美度和经济产出高的多功能经营目标,推进华南沿海生态屏障建设与森林资源培育,使其发挥生态、经济和社会效益。
目的 系统评价心脉通治疗冠心病心绞痛的临床疗效及其安全性。方法 两名研究者独立地检索心脉通治疗冠心病心绞痛的文献,其中包括中国学术期刊全文数据库(CNKI)、万方数据库、维普中文科技期刊全文数据库(VIP)、PubMed电子期刊全文数据库等6个数据库。结果 最终共纳入8篇文献,共计985例心脉通治疗冠心病心绞痛患者,结果显示,心脉通治疗冠心病心绞痛的临床疗效、血浆黏度、髓过氧化物酶优于常规治疗组。
纳豆芽孢杆菌因具有发酵生产维生素K2的能力而倍受关注,但由于维生素K2分子量较大,很难通过自由扩散分泌至胞外。为了促进维生素K2的胞外分泌,进一步提高产量,本文以实验室前期诱变选育获得的一株纳豆芽胞杆菌ND-1-A27为研究对象,考察不同种类表面活性剂对维生素K2浓度、菌体生长、细胞形态及细胞膜流动性的影响。结果表明:非离子型表面活性剂Triton X-100、POE、Tween 40在一定添用量
面对香菇产业中产量预测环节的精准化服务需求,针对香菇生产过程中存在产量预测依靠人工经验、预测准确率低的问题,依托山东七河生物科技股份有限公司(以下简称:七河生物)主持的山东省重大科技创新工程项目—“食用菌智慧工厂化生产关键技术研发与产业化”,分析了工厂化生产模式下的香菇产量影响因素并研究了影响因素处理方法;研究了基于遗传算法优化的BP神经网络香菇产量预测模型;设计并实现了香菇产量预测系统,主要研究
近年来,维生素K2更多的生理功能被发现,除了促进凝血之外,还能预防骨质疏松症和心血管疾病,有望治疗肿瘤和帕金森症。纳豆芽孢杆菌是被美国食品药品管理局认证的一种益生菌,可以用来生物制备维生素K2,其主要的产物形式为人体内半衰期较长、生物利用度较高的MK-7,在规模化生物制备维生素K2中的应用潜力较大。本研究优化枯草芽孢杆菌的Sipizizen转化法使其适用于纳豆芽孢杆菌的分子转化;构建甲萘醌合成途径