基于Transformer的高光谱图像分类算法研究

来源 :云南大学 | 被引量 : 0次 | 上传用户:reeyung
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着传感器技术的快速发展,目前已经能获得分辨率较高的高光谱影像,这为高光谱影像数据的研究和分析提供了技术保障,合理的利用这些数据,通过开发适当的网络,实现对某些领域地物的有效识别和分类具有重要意义。在遥感数据分析中,高光谱影像分类是比较关键的一环,提取的特征中包含了影像的有用信息,分类的结果不仅可以满足实际需求,还能为其它应用提供有利的数据信息和技术支持。在现有的深度学习方法中,卷积神经网络(CNNs)因为具有出色的局部上下文建模能力,被广泛用于高光谱影像分类中,其中基于空谱联合特征提取的方法在分类上取得了较好的效果。在高光谱影像(HSI)光谱数据中,相邻波段间信息的相关性对光谱特征近似的不同地物的分析具有重要意义,然而在传统的基于CNN的高光谱影像光谱数据处理方法中,由于网络中卷积核的大小和卷积的深度限制,CNNs未能很好地挖掘和表示具有几百个光谱波段间特征的序列属性。根据这些问题,本文做了如下研究工作:(1)为了尽可能多的提取具有辨别性特征,本文提出了一种融合Transformer和VGG网络的空谱联合特征提取网络(SST_Like)用于高光谱图像分类,该网络采用3D卷积核的VGG网络提取空谱特征,引入了稀疏约束策略的Transformer网络提取连续光谱间信息,最后将得到的空谱联合特征信息通过多层感知机(MLP)完成地物分类任务。SST_Like网络模型在三个高光谱影像开放数据集上进行了测试,从结果中可以看出,与传统的基于CNN的高光谱影像分类算法相比,能够提取到更加深层次的、具有判别性的特征,极大地提高了分类性能。(2)考虑到VGG网络只能逐层提取特征以及Transformer网络基于全局自注意力的计算方式,当影像分辨率高,像素点多时,计算量较大,分类时效性不佳,本文提出了一种基于Swin Transformer和三维残差多层融合网络的新型网络(Re STrans)用于高光谱影像分类。Re STrans网络中,三维残差多层融合网络用于提取深层次的空谱联合特征,然后由基于自注意机制的Swin Transformer网络模块近一步捕获连续光谱间的关系,最后由多层感知机根据空谱联合特征完成最终的分类任务。由实验结果可知,该网络相较于其它单一的特征提取网络,具有更加优越的分类性能,同时也表明了在空谱联合特征提取的基础上,将各光谱波段间的相关性考虑进来,能带来更高的分类精度。
其他文献
先天性心脏病严重危害着我国青少年儿童的身体健康。心音听诊是先心病初诊中最简单有效的方法,但其十分依赖医师的临床经验和检查技能。本研究力图将基于人工智能的心音分类系统应用于先心病初诊阶段,借助深度学习、硬件加速、边缘计算等技术手段给医师提供及时有效的机器辅助诊断意见,切实解决先心病筛查中由于基层医师经验不足或主观臆断而造成的漏诊、误诊等情况。本文基于APSo C设计了一个的可应用于心音分类系统的卷积
学位
随着5G新时代的开启,高速率,大容量、低时延的通信成为了人们所追求的目标。物理层网络编码(Physical-layer Network Coding,PNC)理论在本质上是利用了电磁信号的叠加特性,实现了通信系统吞吐量的提升,并凭借其大吞吐量的特点,受到了学术界和产业界的关注。然而,在实际的通信过程中,信号的传输往往很难实现同步,因此PNC系统的性能得不到保证。在此背景下,本文对物理层网络编码中的
学位
智能控制器件已经遍布我们身边,控制系统不仅应用于传统的工业设备中,在通信设备中也应用广泛,例如,对雷达辐射方向和馈电开关的控制,控制系统正在发挥着新的作用。身处通信飞速发展的时代,设备的更迭越来越快,对射频前端的要求也越来越高。功分器作为馈电系统中的重要器件,其单一功能已不能满足现阶段通信需求。由于微带线在高频段存在损耗大的问题,而集成基片间隙波导(Integrated Substrate Gap
学位
20世纪80年代,中国开始推行独生子女政策。为躲避经济或行政上的处罚,许多超生家庭选择将超生子女交给亲友代为照料,超生寄养群体由此产生。被迫“隐蔽”的身份,以最终仍需离开寄养家庭、回归亲生家庭的预期,使这一群体深陷家庭认同困境。本研究采用深度访谈和文本分析的方法,考察影响超生寄养群体形成亲生家庭认同的话语机制。结果显示,超生寄养群体的亲生家庭认同建构是一个长期的动态过程,包含两个阶段以及一个重要节
学位
骨龄是反映个体发育成熟程度的重要依据,对评价儿童发育情况、疾病诊断与治疗具有重要意义。医学上通常采用非惯用手的手骨X射线图像进行骨龄评估,然而传统的骨龄评估方法存在评估过程过于复杂、评估结果受主观因素影响等问题,并且对于医生的专业水平也有所要求。为此本文提出一种儿童手骨X射线图像骨龄评估方法,实现高精度全自动儿童骨龄评估。所提出的方法是采用深度神经网络,由手骨分割网络和骨龄评估网络构成。手骨X射线
学位
先天性心脏病在幼儿中是一种常见的先天异常的心脏疾病,一般是由于婴儿在胚胎期其心脏和血管不良发育。且先心病手术有年龄限制,而且难以预防,必须早确诊早治疗。在一些高原的偏远山区是先心病的高发病区,但是由于医疗条件限制,医疗设备缺乏,以及医生资源稀少,导致先心病患者直到错过最佳治疗时期都未被确诊治疗。先心病相关的肺动脉高压是由先心病引起的疾病,心脏听诊是先心病和肺动脉高压初诊的常用手段,听诊后将疑似病例
学位
“南洋风格”是世界艺术花坛上的一朵奇异之花,也是东南亚绘画的重要标志。南洋地区特有的地理位置、特殊的文化及生活习俗、多元化的种族、宗教信仰是构成南洋特有的地域性绘画的基础,也是孕育“南洋风格”的土壤。它有别于东西方两个绘画体系,是远到南洋的教育者、艺术家们的耕作成果。本文以南洋美术教育为切入点,论述在20世纪初,中国的有志之士把中国传统绘画带到南洋这片土地,他们以极大的热情和兴趣描绘南洋的风土人情
学位
天文观测常常会受到许多因素干扰,造成采集到的图像产生各种形式的退化。常见的退化类型包括离焦模糊、运动模糊以及大气湍流模糊等,以及光电子噪声污染等,甚至实际中经常出现比较复杂的噪声及模糊混合退化情况,复原难度大。随着先进的天文观测望远镜和配套设备的不断发展,天文观测领域的数据量已达PB量级,经典图像复原方法难以处理海量的天文图像数据,并且传统复原手段很难从混合退化的天文图像中恢复出可提供于天文研究的
学位
现阶段,我国扶贫工作开展的如火如荼。到2020年,根据目前所采用的标准,农村贫困人口实现脱贫,所有贫困县摆脱贫困,区域性贫困问题得到有效解决。在过去几年中,新乡市政府部门也联合各金融机构虽然在金融扶贫方面积极开展措施,但其辖区内的封丘县、原阳县等仍然是国家级贫困县,贫困人口还有57.82万。因此,本文选取了新乡市为研究对象,研究其金融扶贫效率情况和影响因素,确保全面建设小康社会目标的达成,体现出金
学位
本文旨在论述笔者对于写意花鸟画意象造型的探索,分析本人在研究生期间对于写意花鸟画意象造型过程中对造型语言、表现手法的学习与应用。从对前人技法与画学思想的学习,再到自我创作,实现了笔者对写意花鸟画意象造型从学习、继承到自主应用与探索的过程。本文以写意花鸟画意象造型为研究对象,主要分为三个部分进行论述。第一部分是对前人的学习与继承。沈耀初写意花鸟画意象的造型语言、技法与画学思想给了笔者很大的启发,影响
学位