基于匹配网络模型的小样本机器学习方法研究

来源 :东北师范大学 | 被引量 : 0次 | 上传用户:MyLoverQLH
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年由于计算机技术高速发展以及互联网产生的大量数据,使得深度学习在计算机视觉、自动机器翻译、语音识别及自动驾驶等领域取得显著成果.就计算机视觉而言当下流行的识别算法如AlexNet[1]、VGGNet[2]、ResNet[3]等都需要在每类数千张训练样本的数据集上训练,才能得到较高的准确率.对于只有少量样本的其他数据集很难在此基础上微调得到较好的结果.这些限制使得深度学习在某些数据稀缺领域的应用受到限制.因此产生了Few/One/Zero-shot Learning等研究领域,主要研究在每类只给定少量、一个甚至没有训练样本时如何设计识别算法,以保证模型具有较强的泛化能力.本文主要针对Few/One-shot Learning现有的距离模型Matchingnet[4]进行如下创新.首先,对比现有的各种图像识别及目标检测特征提取框架,结合可视化结果在不改变网络轻量性的前提下创造性的提出新的网络结构及学习率衰减策略.加快了模型训练速度同时提高了验证集准确率,在Omniglot及Flower数据集One-shot Learning任务上准确率分别可提高0.6%、6.5%.其次通过对比研究发现,输入后加入dropout可起到对样本增加噪声的作用,有助于缓解样本量过少引起的过拟合现象.最后利用梯度反卷积可视化方法对模型进行可视化,帮助理解模型工作原理、发现问题,提供后续研究方向.
其他文献
近年来,癌症的发病率越来越高,其死亡率仅次于心血管类疾病,严重危害人类的生命健康。手术、放疗、化疗是癌症的三大常规治疗手段,由于各种因素的影响,其对于恶性肿瘤的治疗
随着全球市场经济与信息化的进一步深入发展,我国企业面临越来越激烈的竞争环境。全面的财务预算管理机制可以有效控制整个公司的经营费用支出及资金运用,提高企业的市场竞争
语言作为一种符号系统,是最重要的思维工具和交际工具。称呼语是一种语言现象,是说话双方交流的开始,在人们的交际过程中必不可少。要想让交际顺利进行,没有合适的称呼语是不行的。另外,称呼语可以反映出交际者的身份背景及社会地位,除此也可以给交际者直接传递和提供信息。近些年来随着中国国际地位的不断提高以及全球化进程的加快,学习汉语的外国留学生越来越多。那么,他们一定要接触称呼语的学习。称呼语的教学在汉语国际
牙克石地区位于内蒙东部大兴安岭主脊及其两侧,中生代处于西太平洋构造域,火山活动强烈,形成区内规模巨大的火山岩堆积序列。本文以区内大面积中生代火山岩为研究对象,综合分
目前市场上应用的定自由度和定构型踝关节康复并联机构,难以满足患者在不同康复阶段的运动助力需求。本文依据人体踝关节的运动特点,基于变胞原理,提出一种满足踝关节患者在不同康复阶段运动助力需求的变胞并联机构,理论分析了该机构的自由度、运动学和动力学等动态性能,通过软件仿真论证了机构设计的正确性。主要研究内容及创新点如下:1、深入分析了人体踝关节的运动特点、损伤原因和康复训练机理,提出康复机构的自身构型变
平面弹性地基梁法中的m法常用于分析桩撑(锚)式支护基坑施工过程中支护体系的受力和变形。但该分析方法存在着两个明显缺陷:一是将三维基坑及支护体系简化成平面问题,不能考虑所有支护桩、圈(腰)梁、内支撑(或锚索)和地基土体的共同作用和空间效应;二是依据经验事先给定土层水平抗力的比例系数m,不考虑基坑施工过程中m值的动态变化。为克服上述m法的缺陷,本文将基坑一个支护面上的支护体系(包括支护桩、内支撑(锚索
碳基荧光材料在有机发光材料、金属离子检测和生物医学等领域展现出广阔的应用前景。本文从柠檬酸出发复合不同种类的含氮化合物合成了高量子产率的荧光聚合物(FPs)和荧光氮化
炭质页岩是一种强度低、易风化、易崩解的膨胀性软岩,开挖的炭质页岩路堑高边坡在空气中暴露时,随着时间的推移和水的侵蚀,岩体力学性质会逐渐发生变化,容易发生软化和崩解,
变压器是电力系统中复杂昂贵的电气设备,在电网中使用频繁,也是电网中容量较大、故障率较高的设备之一,一旦变压器出现故障,将对电力系统运行的安全稳定性产生重大影响,给国家和人民带来巨大的经济损失。因此,为了避免和减少变压器故障带来的损失,及时有效发现变压器潜在故障,进行变压器故障诊断研究就显得格外重要。针对传统神经网络在变压器故障诊断应用中,网络模型学习速度慢、诊断精度低、易陷入局部极值的缺点,本文对
随着经济全球化的发展趋势,国际市场竞争日益激烈,未来企业发展所面临的挑战更为严峻。企业可以利用自身的内部力量来谋求更好的发展,还可以采用外延式的发展来谋求更多的机会,开拓自己的市场,海外并购成为企业开拓市场谋求机会的首要选择。据普华永道的统计数据显示,近年来我国企业海外并购的规模在持续扩大,尤其在2016年,我国企业参与海外并购的数量与金额又一次被刷新记录。在中国“走出去”战略和改革开放不断深化的