基于特征增强元学习优化的小样本学习的研究

来源 :南京大学 | 被引量 : 0次 | 上传用户:turobc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机算力与深度学习技术的发展,机器学习算法在分类,识别,分割等计算机视觉任务上显示出良好的性能。但为了训练出性能强大的模型,当前机器学习算法总是需要大量的有标记样本。然而现实场景中存在着一类样本获取困难的任务,因此如何解决传统算法对数据的依赖性,成为了当今研究热点。小样本学习算法(Few-shot Learning)就是利用少量样本快速学习模型的算法,算法学习的目标是在资源受限的条件下学习一个在任务训练集上泛化的很好的分类器。根据元学习(Meta-learning)学习如何去学习的思想,一些工作设计出一种梯度优化算法,快速得到跨任务的模型表示,最终在小样本学习问题上取得了良好效果。有一类基于双层优化的元学习方法,即可微优化元学习网络(Meta-Learning with Differentiable Convex Optimization Net,简称为Meta Opt网络),该算法将元学习问题看成元学习器优化包含了底层基学习器优化的双层优化问题,当基学习器是线性分类器时,可以利用凸优化问题的性质求解外层优化问题,同时模型利用线性分类器可以学习到更好分类边界,在小样本问题中展现了出色性能。可微优化元学习网络使用一种基于GPU优化的QP算子来求解对偶问题。在实际计算过程中,随着输入空间样本维度的增加,QP算子往往并不能得到最优解,即模型的超平面不能求得。因此本文设计一种基于Compact Bilinear的通道表示模块,在增强通道关系的双线性池化表示的同时对特征进行压缩。为了弥补压缩时图像位置语义信息的丢失,本文设计了一种基于协方差的空间注意力表示,提取位置关系之间的协方差表示,同时利用注意力机制进行权重学习,最后和通道特征一起增强特征表示完成分类任务。通过在细粒度数据集和小样本数据集上的实验,验证了该方法的有效性。
其他文献
采用硬度测试、拉伸性能测试、DSC分析和透射电镜(TEM)等方法研究不同时效制度对2A97铝锂合金组织和性能的影响。结果表明:采用165℃人工时效时,峰值强度最高,但其塑性也最差,且达
目的 :研究16层螺旋CT三维成像技术在诊断骨折中的应用价值。方法 :选择近年来象州县人民医院收治的96例骨折患者(这96例患者的病情均经手术探查得到确诊)作为本文的研究对象
小微企业在我国的经济发展中处在举足轻重的地位,在为国家增创税收、提高就业率、改善居民生活、活跃经济市场和稳定社会发展等方面发挥着巨大的作用。由于小微企业自身经营风险大、生命周期短、信用记录少、缺乏抵押物,在信贷方面处于劣势地位,小微企业的发展受到“融资贵、融资难”的制约。为帮助小微企业解决“融资难、融资贵”的问题,从而激活国内市场、推动经济发展,国家出台一揽子金融政策扶持小微企业。银行业传统业务市
目的观察和探讨治疗原发性三叉神经痛3种不同方法的临床疗效。方法选择于2013年6月—2014年6月来该院治疗原发性三叉神经痛的108例患者作为研究对象,随机分为3组,A,B,C组,每
<正>疖肿是部队官兵常见病,尤其在新兵和学员中多发。初起可外涂碘酊,较小或尚未成脓者采用橡皮膏贴[1]亦可;较大或炎症较重者,采用常规抗炎、外敷膏剂或切开引流等方法治疗,
疲劳是引起工程结构和构件失效的主要原因,在各种失效行为中约占50%~90%。随着我国铁路运输速度的提升和载重量的增加,铁道车辆各部件因疲劳失效造成的事故时有发生,车轴作为
从分析专业理论教学与实验教学的关系和交通工程学科实验教学的现状入手,阐述交通工程学科实验教学体系的定位和构成,并提出现阶段交通工程学科实验教学体系中的课程体系、师
吉林大学是在国内综合大学物理系中最早兴办应用物理学专业的学校之一。1985年开办近代物理技术专业,1988年根据国家教委制定颁布的统一专业目录表更名为应用物理学专业。在
当前我国面临着突发事件严峻的威胁和挑战,当突发事件发生时,由于其偶然性和巨大的破坏力,导致人民生命健康和社会经济巨大损失。紧急医疗救援是应急管理体系中一个重要的环
一、问题呈现在学习不等式这一章内容时,苏教版(必修5)课本上安排了一道例题,题目如下:问题过点P(1,2)的直线l与x轴的正半轴、y轴的正半轴分别交于A、B两点,当ΔAOB的面积S最