【摘 要】
:
元学习对有标记数据依赖性低,可在一定程度上缓解标记样本匮乏的弊端,并且元学习模型不仅仅局限于某一个任务,它能够泛化到多种分类任务中,故其被应用于解决各类小样本分类问题。但在现实世界中,数据之间存在着错综复杂的关系,传统的元学习并不能充分表达数据之间的依赖关系,为了充分挖掘数据之间的高阶信息,本文借助图结构将样本之间的关系充分利用起来,并通过样本之间的相似性信息,构成图分类模型,在节点级完成图像分类
论文部分内容阅读
元学习对有标记数据依赖性低,可在一定程度上缓解标记样本匮乏的弊端,并且元学习模型不仅仅局限于某一个任务,它能够泛化到多种分类任务中,故其被应用于解决各类小样本分类问题。但在现实世界中,数据之间存在着错综复杂的关系,传统的元学习并不能充分表达数据之间的依赖关系,为了充分挖掘数据之间的高阶信息,本文借助图结构将样本之间的关系充分利用起来,并通过样本之间的相似性信息,构成图分类模型,在节点级完成图像分类任务,从而提高模型的分类精度。本文提出目前基于元学习的图分类模型没有考虑到分类网络对目标的偏好问题、不同分类任务的嵌入空间共享问题以及特征提取模块和当前的学习任务相独立问题,此弊端会影响图分类模型的泛化能力。进而,为了解决由以上三个原因导致的图分类模型的泛化能力不足问题,本文提出了三种任务相关元学习,它们分别将交互注意力提取模块、任务自适应模块和可学习的任务驱动模块作为图分类模型特征提取模块的一个补充,生成与任务相关的特征向量,从而提高图分类模型对新任务的泛化能力。本文的研究内容和主要成果包括:(1)为了解决图分类模型的目标偏好问题,提出一种简单、性能良好的图分类目标无偏元学习,该方法可以提高特征向量的可区分性,减少模型对特定目标的偏好,能够快速锁定当前分类任务的主要目标,解决其它图分类方法的目标偏差问题,从根本上加强图分类网络对即将要完成的任务的泛化能力。在标准的小样本学习基准数据集上进行监督学习、半监督学习和转导推理学习的实验,实验结果表明,此方法在Mini Image Net数据集和Tiered Image Net数据集上的准确率均有不同程度的提高。(2)为了解决图分类模型的嵌入空间共享问题,提出一种基于自注意力学习模块的任务自适应元学习,提取训练样本与测试样本之间的相关信息,计算融合测试集样本特征的注意力权重,提高原始方法特征嵌入网络的表征能力,生成最有利于测试任务的特征表示,使得最终训练好的模型可以广泛适用于各种分类任务。采用图神经网络作为距离测量方法,克服传统度量方法适应性差的特点,充分利用样本之间的隐含关系,进一步提高图像分类的准确性。(3)为了解决图分类模型的嵌入网络与任务相独立问题,引入可学习的动态任务驱动模块,提取与任务相关的特征表示,更新特征提取网络模型,使每个任务都有自己不同的特征提取模块,提高分类模型的泛化能力。利用辅助任务进行协同训练,克服由于训练模型更加复杂而导致的训练过程困难问题。利用样本之间的潜在关系构建图结构,通过节点特征更新模块和边缘特征更新模块充分挖掘数据间的高阶信息。在Mini Image Net和CIFAR-FS数据集上进行归纳推理和转导推理设置下的实验,实验结果表明此方法取得了良好的效果。综上,本文通过提取样本之间的交互注意力,使得特征表示与任务相联系,解决了图分类模型的目标偏差问题;通过将支持集和查询集样本同时嵌入到一个空间,得到任务的潜在信息,克服了图分类模型嵌入空间共享问题;通过任务驱动模块获得与任务相关的参数,达到了图分类模型的特征提取模块与任务相联系的目的。通过大量的实验证实了本文的三种用于图分类的任务相关元学习解决了传统图分类方法的泛化能力不足问题。
其他文献
由于铁电材料具有显著的力电耦合特性,在数据存储、微制冷方面具有巨大的发展优势。但是,铁电材料一般为断裂韧性较差的陶瓷材料,断裂破坏成为其常见的失效模式。随着材料尺寸的不断减小,铁电材料的断裂过程往往伴随着大范围畴变的发生。然而,铁电材料显著的非线性使得获取裂纹尖端的断裂参量十分困难,针对不同裂纹面电边界条件下的铁电材料大范围畴变与断裂研究明显滞后。因此,正确认识与评估铁电材料的大范围畴变机制以及断
电网的建设包括多个环节,整个流程耗时较长,除了前期的总体规划、勘察设计,在经历立项审批等环节后,项目施工前和施工过程中还将涉及土地征用、环评、青苗赔偿等等一系列可能出现的状况和问题,而这一些列的问题常常引发相关民众与电网建设方的纠纷。配电网工程建设时常因邻避纠纷而受阻,从而严重拖延了建设工期。在H地区中低压配电网工程建设过程中同样如此,虽然部分问题在管理人员的协调下能解决,但是在不少邻避纠纷由于处
随着科技的发展以及生活水平的提高,人们也越来越追求厨房电器的便捷性、安全性以及舒适的使用感。因此,既能为锅具实现感应加热,又能为无尾厨电供电的多功能无线供能装置也应运而生。相比于传统电磁炉,多功能无线供能装置在降低成本、减小体积,提升厨房环境的整洁性等方面上,有着卓越的提升。在空间效率上,允许食物准备、烹饪和清洁都在同一表面进行,具有高灵活性,同时由于电源发射端嵌入在厨房台面上或安装在台面下,隐藏
随着社会信息化进程的不断推进,图像已逐渐成为基础的信息载体,在各行各业起到十分重要的作用。但是智能终端的普及使得图像数量呈爆发式增长,进一步增加了图像的来源与种类,给通信系统带来了极大压力。如何在保证图像可用性的前提下,对图像进行编码传输是亟待解决的问题。以往的图片处理更多依赖于传统算法及人工查验,这要求最小化编码带来的误差,追求高保真和高分辨率以保证图片的整体结构与局部细节。近年来深度学习(De
危险行为检测是维护公共治安,减少安全事故发生的有效手段,对维护社会稳定发展有着重要意义。通过在学校、道路、医院等公共场所安装智能监控设备,准确高效的检测危险行为,能及时减少或消除事故的发生,维护人民的生命安全。然而在实际应用中,由于人群流量大、背景复杂和光照多变等困难,使得很多行为检测算法无法有效获取视频中的动作特征,从而导致检测效果达不到预期的标准。针对危险行为检测,本文分别利用有向图卷积网络和
随着人工智能的快速发展,行人检测技术广泛地应用于智能监控和人机交互等领域。在实际的行人检测系统中,不仅要考虑检测的准确性,还要考虑检测的实时性。本文针对检测精度和检测速度的耦合问题,基于YOLO算法并进行轻量化模型设计,旨在完成精确且快速的行人检测任务。主要研究内容如下:(1)为了平衡Tiny YOLOv3检测算法的检测精度与检测速度,本文提出了一种改进的Tiny YOLOv3行人检测算法。针对T
作为保障舰载机安全着舰的重要装备,阻拦着舰装置的稳定运行对于部队执行训练和作战任务具有重要意义。与主要军事强国相比,我国在阻拦着舰装置的使用与诊断方面存在装备使用时间短、诊断经验偏少、运行数据积累偏少、自动化和信息化程度偏低等问题。阻拦着舰装置结构复杂、元件众多,存在较多的故障源。目前,阻拦着舰装置的维护工作以定期维护为主,该方法能在一定程度上保障装备的可靠运行,减少故障发生的概率。但是,在没有准
随着新型能源技术的快速发展,动力电池的市场需求量逐渐提高。由于近几年动力电池的安全问题频发,人们对动力电池的关注逐渐由容量需求转向安全需求。动力电池在循环充放电的过程里会出现老化现象,其性能逐渐衰退。持续使用临近退役的动力电池易发生故障,从而影响供电系统的正常运行。因此,及时检测动力电池的健康状态并估计其剩余寿命对于维护动力电池的使用安全性具有重要意义。本课题基于深度学习方法对动力电池进行检测与分
随着遥感图像空间分辨率的提升,目标的最小可探测尺寸逐步改善,现有遥感技术已实现对小型车辆目标的检测与定位,再借助遥感的大范围监测能力,将成为城市/城市群交通宏观监测的新途径。然而,即使在高分条件下,类似小型车辆这类弱小目标的探测还面临着诸多问题:一方面,为提升传感器空间分辨率,往往会牺牲一定的图像信噪比,加之目标周围复杂的背景环境和光照环境,导致目标与周围反差过小,目标可检测性不高;另一方面,即使
波浪滑翔器是一种可将波浪能转换为前进动能的新型海洋观测平台,具有航程长、续航久、零排放、无污染的特点。波浪滑翔器等海洋观测平台的导航控制核心即是良好的航向控制能力,由于波浪滑翔器的动力来源于波浪能,其自身速度并不稳定,且海洋环境复杂多变,使得提高波浪滑翔器的航向控制能力成为了相关研究的热点与难点。针对上述问题,本文建立了波浪滑翔器波浪驱动速度预测模型,并将BP神经网络分别与PID控制器与ADRC控