目标检测神经网络超参数优化方法研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:iobject
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目标检测作为深度学习的一个重要分支,已经被广泛应用于智能交通、工业质检和自动驾驶等领域,创造了巨大的经济价值,降低了人工成本。近年来对目标检测网络的改进主要集中在网络结构、数据预处理等方面,忽略了网络超参数的重要性。实验表明目标检测神经网络对超参数敏感,为了得到适应具体场景的最佳参数,往往需要耗费研究者大量的精力。因此,设计针对神经网络特点的高效超参数优化方法意义重大。本文对目标检测网络中的锚点超参优化问题展开深入研究。针对目前锚点超参数设置方法过度依赖先验信息的问题,引入反馈控制理论,设计了自反馈超参数搜索框架。根据计算资源量的约束分别提出了基于子空间融合和基于滑动平衡的锚点超参搜索方法,具体工作内容总结如下:1、在计算资源受限的情况下,针对常规锚点优化方法过度依赖先验信息的问题,提出了一种基于子空间融合和向量均值回归的锚点搜索算法方法。首先引入SuccessiveHalving算法快速确定初始种子点,其次利用训练结果生成检测子空间和漏检子空间,分别在两个子空间中采用均值回归算法规划出偏移向量,并进行加权融合生成迭代超参数。除此之外,算法通过使用提前终止策略中断无潜力的搜索路径,提高资源利用率。与经典的锚点优化方法对比,本文提出的方法克服了对先验信息过度依赖的问题,能从随机初始种子点快速搜索得到较优秀的锚点超参数,提高了目标检测网络的性能。与经典的贝叶斯优化算法对比,本文提出的方法在搜索效率和检测性能上均有一定的优势,且搜索资源越少,优势越明显。2、在计算资源充裕的条件下,针对贝叶斯方法单一评估模型泛化能力弱、搜索方差大的问题,提出了基于动态代理和滑动平衡的贝叶斯优化方法。首先利用历史数据使用交叉验证法动态选择代理模型;其次利用概率改进(PI,Probability of Improvement)采集函数的推荐值生成K个近邻超参数,引入Hausdorff距离度量探索价值,建立探索到利用逐级过渡的滑动平衡策略,根据当前资源利用率确定最终的锚点超参数。实验表明,本文提出的方法能动态平衡探索与利用,在指定数据集上,检测指标AP50对比经典贝叶斯方法提升约1%,且在大规模网络中的表现也优于经典的锚点优化方法。本文针对目标检测网络的锚点优化任务,根据搜索资源的不同分别设计了两种优化方法。在搜索资源较少的情况下,基于子空间融合和向量均值回归的锚点搜索方法能克服对先验信息过度依赖的问题,快速搜索到较优秀的锚点超参数,适用于网络的快速部署;在搜索资源相对丰富的情况下,基于动态代理和滑动平衡的贝叶斯优化方法能更有效地利用历史数据,自适应调整探索与利用比重,适用于指标要求更高的超参数优化任务。
其他文献
数字化技术在公路路面施工中的应用有助于制定严格、规范、科学、定量的施工管理模式,实现对路面施工全过程的精准把控。论文在对数字化技术进行概述的基础上,分析了数字化技术在公路路面施工中的应用优势。依托路面施工相关参数的收集、利用与管理,立足路面透层试验、沥青改性、混合料运输、路面摊铺与压实等环节,分别探讨了数字化技术的应用场景与应用要点,
期刊
随着便携式电子产品的飞速发展,使得电源管理芯片广泛应用于低压大负载的环境中。本文以低压大负载的应用市场出发,基于非隔离式降压型直流转换器的基本原理,结合关键的补偿技术和自适应死区技术的研究,设计了一款带自适应死区控制的高效电压模降压型DC-DC变换器。本文首先介绍了降压型变换器的拓扑结构,对比分析了常见的几种调制模式,最终选择了电压模控制的变换器。结合芯片的具体定位和指标分析计算了片外拓扑元件的具
学位
目前,图像和视频代替了文本成为了人们日常获取信息的主流途径。随着各种高清智能设备的日渐普及,在科学研究和日常生活中,人们对图像分辨率的要求逐渐提高。从硬件的角度出发去提高图像分辨率成本过高,并且存在着难以解决的技术瓶颈,因此从软件角度出发的图像超分辨率重建技术成为了当下研究的主流。超分辨率重建方法对已有的低分辨图像进行处理,重构出我们所需要的高分辨率图像,在安防监控、医学影像、高清显示等领域均有重
学位
滚动轴承是旋转机械的重要组成部件,在高铁、航空发动机以及燃气轮机等工业关键领域,轴承往往工作于高温、高速、重载的严苛工况下,容易在其多个组件上发生复合故障,早期微弱复合故障的及时诊断对确保旋转机械安全具有重要意义。由于滚动轴承一般安装于机械系统内部的核心位置,采集轴承振动信号的各类传感器无法直接布置在轴承组成部件上,因此采集到的信号通常为机械系统中多个源的混合信号,难以直接分析判断轴承故障类型。为
学位
随着信息技术的发展,视频逐渐成为人们获取信息、传播信息的主要方式,而视觉目标跟踪作为视频自动化处理的重要研究内容,有着广泛的应用前景。基于孪生网络的视觉目标跟踪算法的提出,给视觉目标跟踪领域创立了一个可以兼顾跟踪精度与速度并且模型结构简洁清晰的范式。很多学者对孪生网络跟踪算法进行了研究与改进,孪生网络跟踪器的性能得以不断提升。但是面对视觉目标跟踪中复杂的场景与多样的挑战,孪生网络跟踪器的性能还有很
学位
随着各国机动车保有量迅速增长,人们在享受交通便利的同时也遭遇着交通事故的烦恼。事故的发生由多种因素造成,但驾驶员作为承载交通安全的主体,其行为是影响道路安全的主要因素,因此准确且迅速的识别驾驶员的行为是保证驾驶安全的前提。传统的驾驶员行为检测系统因为驾驶场景的多样性和不确定性,整体识别准确率不高。基于深度学习的智能辅助系统能拓展驾驶员对环境感知的能力,具有巨大社会效益和现实意义。目前针对驾驶员行为
学位
<正>(接上期)2.克孜尔第14窟伎乐天人图中的琵琶第14窟为一面积不大的方形窟,由于洞窟位置较高,破坏不甚严重,尤其窟顶壁画保存较好。根据该窟壁画的题材内容及绘画风格,参照毗邻洞窟碳-14测定数据,证明该窟应属克孜尔中期洞窟。
期刊
随着互联网的发展,软件开发的需求与日俱增,Web API的调用已经成为软件开发必可不少的一种方式。Web API是一些预定义的功能,它向软件开发人员提供了一系列的接口,有了Web API,软件开发人员可以根据自己的需求直接调用并组合Web API而无需了解其内部细节。但是,由于软件库中的Web API数量庞大,开发人员无法熟悉所有Web API并始终为特定的开发任务选择正确的Web API,因此W
学位
近年来传感器的精度不断提高,可以获得关于目标的多个量测,这使得扩展目标跟踪逐渐成为了研究热点,即既跟踪目标质心的运动状态,又估计跟踪目标的形状。随机集理论下的滤波器避免了复杂的数据关联,且精度较高,受到国内外学者的青睐。本文以随机集理论的泊松多伯努利混合(PMBM)滤波器为基础,在三维空间中,对扩展目标跟踪中的目标形状估计进行了研究,主要工作内容如下:(1)针对三维扩展目标形状估计中存在对量测数量
学位
传统的多目标跟踪算法都是根据点目标的假设,即在一次扫描中对单个目标只会形成至多一个点量测。由于激光雷达等新硬件的发展,每一个目标将会可能产生多个量测,目标的形状和范围将变得不可忽视,在对目标质心跟踪的同时,还要对目标的形状与范围等信息进行估计,由此产生了扩展目标跟踪问题。目前,扩展目标跟踪技术已经越来越多的应用于如室内外定位,自动驾驶,环境感知等领域。近年来,随着对随机有限集理论的进一步深入研究,
学位