基于对比学习的小样本遥感场景图像分类研究

来源 :吉林大学 | 被引量 : 0次 | 上传用户:oraclenienan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
遥感场景分类在军事、城镇规划等领域具有重要的应用,大部分已有的分类方法主要基于深度学习。然而,传统的深度学习方法过度依赖有标注的数据,一旦有标注的数据不足,那么模型无法在测试样本上取得好的泛化效果。随着卫星遥感技术的发展,大量数据的获取不再是阻碍模型性能提升的关键,问题的关键在于如何对大量数据进行标注。遥感场景图像的标注需要具备专业知识的人完成,因此会耗费较高的人力成本。此外,遥感场景图像具有两大特点,首先是遥感场景图像的某些类别存在低类内相似度,低类间差异性的表现;其次,具有判别性特征的目标区域尺度差异较大,无法学习到足够好的表征。小样本学习可以很好地解决有标注样本量少的情况下的图像分类问题,利用先验知识将已获得的分类能力迁移到只有少量标注样本的新类别分类任务上。当前已有一些学者同样关注到了小样本学习的优势,对小样本分类任务进行研究。但他们往往只关注类内相似度低,类间相似度高的问题,忽略了多尺度特征融合对于提升特征提取模型性能的重要性。因此,为了解决上述问题,本文尝试将对比学习和小样本分类任务的第一阶段结合,构成一个多任务模型,共同学习一个高性能的特征提取模型。本文的主要研究内容和贡献如下:提出了基于自监督对比学习的小样本遥感场景分类方法,其中自监督对比学习方法能够改善部分遥感场景类内相似度较低,类间相似度较高的问题,而且能够提高对已有数据的利用率,不借助任何标注信息就能辅助小样本学习方法学习图像的表征。为了训练这个多任务模型,本文结合对比损失和交叉熵损失函数提出了合适的目标函数,通过实验选取固定的权重因子来平衡对比学习任务和小样本分类任务的损失。此外,本文提出了新的注意力机制,其中空间注意力模块利用不同大小的卷积核并行操作来融合多尺度图像特征。通过与其他经典的小样本学习方法对比发现,本文的方法在大多数情况下效果都是最好的,引入了自监督对比学习和注意力机制使得模型性能有了明显的提升。将本文的注意力机制与常用的其他注意力机制相比,可以发现本文的注意力机制更适用于遥感场景分类任务。鉴于小样本分类任务是有监督学习任务,已知训练数据的标签,为了能够合理利用标注信息,本文还利用孪生网络结构提出了基于特定类对比学习的小样本遥感场景分类方法。通过提高类内样本的相似度,增大类间样本的差异性来完成特定类别的对比学习任务。此外,本文使用可学习的权重因子平衡对比损失和交叉熵分类损失。为了融合多尺度图像特征,在原特征编码器的基础上,引入了特征金字塔,但通过实验发现,特征金字塔的效果不如本文提出的注意力机制。与大量先进的小样本分类方法比较得出,本文的模型在大部分情况下都能取得最优的效果,而且基于特定类别的对比学习比传统自监督对比学习效果更好。
其他文献
<正>读后续写是给考生提供一篇350词以内的材料,要求他们依据材料内容、所给段落开头语及所标关键词(浙江)进行续写(150词左右),将其发展成一篇与给定材料有逻辑衔接,情节和结构完整的短文。该题型要求考生首先要读懂已知文本信息,明白故事的情节脉络、人物特征和情感变化等。在此基础上,考生顺着文章的思路,根据线索发挥想象,对其后的情节进行合理预测,并用英语表达出来。因此,读后续写既考查考生的阅读理解能
期刊
幼小衔接阶段是幼儿重要的成长阶段,这个阶段的幼儿面临着生活、学习模式的变化以及角色的转变,这对于他们来说极具挑战性。在幼小衔接阶段,轻松自由的游戏化学习形式将告一段落,幼儿升入小学后,会进行更加系统化的学习,学习难度加大、节奏加快。如果幼儿没有养成良好的学习习惯,就很难适应这一转变,因此,教师在幼小衔接阶段要运用有效的引导与教育方法做好幼儿的学习习惯培养工作,为幼儿更好地适应小学学习打好基础。由此
期刊
学位
学位
针对遥感图像河流数据样本人工标注成本高且难以大量获取,以及网络在河流图像边缘细节提取的效果不佳问题,提出一种通过自监督对比学习方式利用大量无标签遥感河流图像数据进行编码器预训练,并使用少量标签数据对预训练后的编码器进行微调,同时在编解码结构中使用一种新的非均匀采样方式的语义分割网络。自监督对比学习可以利用大量无标签数据进行前置任务模型训练,仅需少量标签数据对下游河流提取任务模型微调即可;非均匀采样
期刊
机械振动和机械波的知识点在高考中作为理综物理选考题,本身难度虽然不是特别大,但在日常生活中却有许许多多的应用,比如利用超声波测速及定位等。正确并全面地解读这部分知识点,有助于高中生在学习及备考过程中有系统有条理地梳理知识点,掌握解题技巧,不在不应该丢分的地方出纰漏。
期刊
学位
在深度学习中,如何利用大量、易获取的无标注数据增强神经网络模型的特征表达能力,是一个具有重要意义的研究问题,而对比学习是解决该问题的有效方法之一,近年来得到了学术界的广泛关注,涌现出一大批新的研究方法和成果.本文综合考察对比学习近年的发展和进步,提出一种新的面向对比学习的归类方法,该方法将现有对比学习方法归纳为5类,包括:1)样本对构造; 2)图像增广; 3)网络架构; 4)损失函数; 5)应用.
期刊
校园安全关系着千万家庭的幸福与安宁,提升中小学校园安全防控水平,对降低中小学生意外伤害发生率来说至关重要。本文通过实际调查和研究,梳理了当前校园安全防控面临的主要问题,论述了引发这些问题的原因,提出了防范各类校园公共安全事件的建议,希望为相关部门和管理者提供一些参考。
期刊
高阶思维是一种较高的认知能力,高中生物教学的目标是培养具备科学素养的人才,而高阶思维能力则是科学素养的必要内容。为探究高中生物教学中学生高阶思维能力培养的教学模式,本文结合教学经验与实际,分析几种主要的教学模式,并结合教学实践进行研究分析,得出结论和反思。
期刊