【摘 要】
:
与基于插值或者重建的机器学习方法相比,深度学习在超分辨率(Super-Resolution,SR)任务上显示出其独特的优势。然而,人工设计一个性能优秀的超分辨率网络往往需要耗费大量的人力物力。除此之外,随着人工设计的神经网络越来越复杂,想要人工设计出一个表现不错的神经网络成为一个挑战。为了减少人工设计神经网络所花费的人力物力,神经网络架构搜索(Neural Architecture Search,
论文部分内容阅读
与基于插值或者重建的机器学习方法相比,深度学习在超分辨率(Super-Resolution,SR)任务上显示出其独特的优势。然而,人工设计一个性能优秀的超分辨率网络往往需要耗费大量的人力物力。除此之外,随着人工设计的神经网络越来越复杂,想要人工设计出一个表现不错的神经网络成为一个挑战。为了减少人工设计神经网络所花费的人力物力,神经网络架构搜索(Neural Architecture Search,NAS)的价值凸显出来。基于强化学习、进化算法、贝叶斯优化策略的神经网络架构搜索方法需要耗费大量的GPU计算资源,因此逐渐被基于梯度下降算法的方法所替代。可微分网络架构搜索(Differentiable Neural Architecture Search,DARTS)通过移除控制器、超网络和模型预测器,将网络架构搜索时间大大缩短。NAS在超分辨率上应用较少,为了自动搜索出性能优异的超分辨率网络架构,本文中用可微分网络架构搜索来搜索超分辨网络架构并解决遇到的各种问题,主要工作如下:(1)重构可微分网络架构搜索的搜索空间.DARTS最初用于图像分类和图像识别任务,因此DARTS的搜索空间并不一定适用于单张图像超分辨率任务。通过对超分辨率经典模型EDSR,MDSR等网络架构进行研究,发现这些网络都是以Resblock或者该模块的变体进行堆叠而得到的。从此可以分析得出,超分辨率任务不仅需要卷积操作提取的高维信息,而且还需要恒等映射提供的低维信息。因此本文对神经网络架构搜索空间的卷积操作添加了恒等映射操作来保留特征图的低维信息。(2)改进的可微分网络架构搜索在超分辨率上的应用实验表明,在超分辨率任务上直接使用DARTS会导致搜索得到的超分辨率网络架构中存在过多跳连接操作(skip-connect),从而导致最终网络架构超分辨率效果不好。基于重构的可微分网络架构搜索空间,本文使用可微分网络架构搜索来搜索Cell结构,将得到的Cell进行堆叠组成超网络,该网络作为超分辨率网络的非线性映射部分来提取图像高维语义信息。经实验验证,上述方法搜索得到的超分辨率网络架构在基准数据集和DIV2K数据集上表现出有效性。(3)低延迟超分辨率网络架构搜索在三自由度网络架构搜索(Three freedom NAS,TF-NAS)的基础上,本文设计了一种自动搜索出受延迟限制的超分辨率网络的新方法。因为MobileNetV2中提出的倒置残差块可以重用图像的特征并改善网路的性能,所以该操作被用作神经网络架构搜索空间中的基本候选操作,可以大大减少网络参数的数量和网络架构的推理时间。同时,为了确保网络推理的低延迟,中间层的维度被动态调整,以使网络结构的延迟接近目标延迟。对基准数据集的定量和定性评估表明,所提出的算法搜索得到的网络延迟低并且生成的图像质量较高。
其他文献
目的:优化复方氟尿嘧啶口服溶液包封率的测定方法。方法:采用高速低温离心的方法,分离游离态的氟尿嘧啶,以高效液相色谱法测定药物中游离的氟尿嘧啶,计算其包封率。以Agilent 5TC-C18(2)(4.6 mm×250 mm, 5μm)为色谱柱,流动相为6.8 g·L-1的磷酸二氢钾溶液(用5 mol·L-1的氢氧化钾溶液调pH值至5.7±0.1)-甲醇(95∶5),检测波长为265 nm。结果:氟
社会的快速发展使得人们的生活和计算机视觉的联系越来越紧密,导致目标跟踪在智能驾驶、机器人与监控系统等领域受到了极大关注,目标跟踪在各类系统的应用也越来越广泛。目前,目标跟踪算法依然存在很多问题,例如在复杂背景、快速运动等多种情况下,目标跟踪的成功率低等。近些年随着机器学习相关技术的迅猛发展,基于机器学习的目标跟踪算法进展也十分迅速,但是需要有大量多种场景图片的标准数据来训练卷积参数,其中涉及到十分
近年来,随着信息技术的不断发展,自然语言处理的研究逐渐转向自然语言理解的研究,机器阅读理解便在这个大背景下应运而生。机器阅读理解不仅仅是对文字的“感知”,更是对文字的“认知”。机器阅读理解任务要求机器理解上下文本信息后,准确地回答出相关的问题,其结果可以用来评估机器的阅读理解能力。通常情况下,该任务需要机器能够对文本中的单词进行词性标注和命名实体识别找出其中的实体信息,更深层的则是需要机器执行句法
为了实现“富民、兴边、强国、睦邻”的目标,2006年国家开始实施兴边富民行动。截止到现在,圆满完成了三个五年规划,使得边境地区经济社会得到巨大的发展。现利用统计数据对当前我国陆地边境地区发展现状进行统计分析,构建评价指标体系对9个边境省(区)、140个边境县(区、旗)经济社会发展程度进行评价,对于准确把握我国陆地边境地区发展态势,为谋划下一步工作,具有一定的现实意义。本文将对十三五期间兴边富民行动
多智能体强化学习领域的研究正在快速扩张,在多个领域中如机器人团队,资源管理,分布式控制,游戏,电子商务等均取得了瞩目成就,多智能体强化学习问题的研究往往涉及密集计算与智能体之间的相互关系,而经典强化学习算法领域内探索与利用的权衡问题,在多智能体领域中仍是一项挑战。本文通过对Stein梯度下降法(SVGD)理论技术的引入,为该项挑战提供有效的解决途径,并以车联网下的智能车辆调度为应用背景。本文结合提
随着互联网的日益发展,越来越多的用户通过微博等社交网络平台发表观点、参与热点事件的讨论。社交网络热点事件是指通过社交网络传播引起民众广泛关注并产生强烈反响的事件。在热点事件的传播过程中,通常会激起社会舆论、产生大规模的连锁反应,甚至危害社会的安全。用户作为事件传播中的主要参与者,是社交媒介的核心和主体,在热点事件的产生、演化和传播过程中发挥着重要的作用。因此如何准确有效地分析社交网络热点事件中的用
物理学科要培养学生的物理观念、科学思维、科学探究、科学态度与责任四大核心素养。物理概念是物理学科核心素养的基础,然而高中物理概念多、概念抽象、逻辑性强等特点,导致了物理概念和规律的难教和难学,尤其是物理抽象概念。因此探究促进高中物理抽象概念教学的研究非常重要。PHET仿真模拟(Physics Education Technology interactive simulation)主要是研究仿真模拟
大数据时代,推荐系统是帮助人们解决信息爆炸问题最有效的工具之一,但传统的推荐系统往往面临着数据稀疏和冷启动两大问题。近年来,社交平台的快速发展,使得各应用平台都产生了丰富的社交信息,因此有学者提出社会化推荐系统,在推荐系统中引入社交关系来提高推荐效果。虽然目前已经有许多研究工作取得了不错的成果,但多数研究都基于显式社交关系,而显式社交关系往往存在数据稀疏和噪音问题。为了弥补显式社交关系的不足,本文
与资源丰富语言相比,资源稀缺语言命名实体识别面临的最大困难是训练模型所需的语料尤其是人工标注语料的获取难度大、成本高,如何以低成本、高效率地识别资源稀缺语言的命名实体是目前资源稀缺语言命名实体识别的研究重点之一。本文研究如何从与资源稀缺语言文本相关的图片中获取与人名实体相关的信息,并将其应用于资源稀缺语言的人名识别任务中。本论文以藏文人名识别为例,具体工作如下:首先从与文本相关图片中抽取图片中的重