神经网络在小样本数据集的研究及应用

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:mjynht
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经网络是通过学习人脑构造和其运作流程来进行信息处理的系统,大都基于大量标记好的高质量样本进行训练。但是实际上,人脑更擅长于从少量的简单样本中去识别各种物体的不同之处。在很多真实情况下,往往会遇到难以积累到足量样本或数据取样困难的问题,这些问题限制了人工智能的发展。因此,如何使模型只通过小样本数据就能实现快速学习,成为目前十分重要的研究方向。噪声问题是小样本的关键问题。当数据量充足时,算法很容易就能区分关键信息和噪声,因此很容易在无用信息(同一类别的细节特征)和有效信息(不同类别的关键区分特征)之间进行区别。相反,由于小样本中的样本量过少,很难明确找到这样的信息。这时候,增加一些其他手段来加强类别的建模能力就显得至关重要了。此外,拍摄角度或实际情况的变化也会造成形象的差异,这可能会导致映射后同一类的数据点依旧十分分散,不能很好的聚集。本文的主要内容概述如下:第一,本文回顾了小样本学习的发展,介绍了几个经典的小样本方法。尽管这些方法都解决了小样本学习中的一些问题,并提出了新的研究思路,但尚未解决小样本噪声严重,提取特征不明显,对异常数据敏感等关键问题。第二,针对上述缺陷,本文提出了投影判别网络。在浅层神经网络中,加入新的嵌入模块,引入线性判别分析的思想,缓解了噪声问题,使不同类别特征更加明显,让同一类别的数据点能够尽可能聚拢,不同类别的数据点能够尽可能分散。第三,在探讨空间是否线性可分的问题后,本文又提出了投影核判别分析网络。通过把核函数引入到嵌入模块中,使嵌入后的结构变得更加灵活和多变。通过投影到更高纬的空间,使不同类别在更高维空间上尽量分散。第四,在基准数据集MiniImageNet和CUB上,验证了投影判别网络的性能,并与先进的模型进行综合比较。在不同粒度的实验中,投影判别网络取得了较好的效果。通过不同层面对比了两种嵌入的优劣。对映射后的数据点进行可视化展示和探索性分析,最终表明投影判别网络是合理且有效的。此外,在基准数据集MiniImageNet和CUB上,同时也验证了投影核判别网络的性能。实验表明投影核判别网络得到了更高的准确率,且更能适应不同类型的各种子任务。
其他文献
新形势下党校图书馆资料工作的改革思路是:更新观念,增强服务意识;加强培训,提高人员素质;加强领导,加快图书馆建设。
为了探讨富营养化与疏水性有机污染物的可能相互作用,对3种双壳类及沉积物中的PCB浓度(CPCB)数据进行了分析。它们与沉积物中的总有机碳含量(TOCSsed)存在相关性,而后者被认为代表
借助水底摄像系统和潜水呼吸器,获得1996-1997年夏季漂流海藻群在波罗的海北部的群岛海(Archipelago Sea)发生情况图。研究范围包括从海滨到海洋50m的深度范围。按藻群的厚度和是
萨尔达尼亚-郎厄班海岸带是南非海岸资源库的有机组成部分.海岸带作为一个可开发资源的前沿区域,如同世界上其它地区一样,迫切需要平衡发展和经济增长与自然保护之间的关系.
社会的发展需要我们在研究客家文化的基础上把客家精神现代化。客家精神现代化,就是说,不仅要继承、光大维系引导客家人积极向上的传统精神(如勤劳刻苦、爱国爱乡、崇尚教育
线上互动教学系统长期以来高校除正常教学之外的有效补充,如何充分的利用学习过程的考核来完成线上互动教学,提高学习者学习的积极性是网上教学的重要目标。论文从目前基于绩
Web2.0时代的到来为互联网数据提供了一种新的产生方式,网络数据的增长速度越来越快。就海量数据而言,用户难以根据自身的偏好去获取所需数据,因此如何为用户提供针对性的数
现实生活中,钝体绕流产生旋涡是一种普遍的现象。研究旋涡脱落的影响在工程应用中主要有两个方面,一方面防止旋涡产生的振动对设施的破坏,另一方面利用旋涡产生的振动反映管
众所周知,学生的学业成绩与学习兴趣有着密切的关系。兴趣是个体内在的、强烈的、对某种事物探究、趋近的心理倾向。只有基于这样的心理内部需要,学生才会有持续自觉的努力,才有克服困难的勇气和经受磨砺的信心。因而很多心理学家、教育家们一直呼吁激发学习动机,提高学习成绩。在初中化学课程标准中,也将培养和激发学生学习兴趣作为重要教学目标。笔者自2011年毕业以来,一直在四川省凉山彝族自治州盐源县任教,任教学校均