基于深度神经网络的图像融合方法研究

来源 :江南大学 | 被引量 : 0次 | 上传用户:TTjj09
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图像融合即将包含互补信息的同一场景的多源图像生成比单张图像更适合人类或机器感知的融合图像。图像融合能够改善并提高仅仅使用单一传感器的不足,促使融合图像包含更多可靠的信息。在军事、遥感、安全监控和医学图像等领域,图像融合技术广泛使用。传统的图像融合算法分为:基于转换域的图像融合方法和基于空间域的图像融合方法。基于转换域的图像融合方法中,多尺度分解工具的选择和融合规则的设计是影响融合结果的两个关键因素。基于空间域的图像融合方法中,分块的大小对融合效果影响较大。由于深度学习方法的兴起,基于深度学习的图像处理方法受到图像处理领域的巨大关注。近年来,深度学习(Deep Learning,DL)在图像处理问题上取得了巨大的突破,比如图像分类,图像去噪,图像超分辨率等问题。基于深度学习的图像融合问题也成为了比较活跃的话题。本文首先对课题的研究背景、研究内容、研究现状、本课题相关的深度学习技术和常用的图像融合方法及图像融合评价指标做了介绍。接着,基于传统方法的研究基础,通过分析卷积神经网络在图像融合的研究现状,利用卷积神经网络对图像特征提取的优势,提出了基于卷积自编码网络的图像融合方法,设计了适用于图像融合的网络框架进行训练和测试。本文所提出的卷积自编码网络框架,分别从网络结构设计原理、编码特征可视化分析、融合规则设计、实验设置、网络训练及测试等多方面细节进行介绍,然后,通过主观视觉评价和客观指标对实验结果进行检验分析。论文的主要研究内容如下:(1)现有的基于卷积神经网络的图像融合方法大多是有监督学习的方法,需要大量的训练数据和有监督的标签。考虑到这种先验信息的获取需要较大的人力投入并且标记的准确性直接影响待融合区域的判别,且人工标记标签的适用范围较为局限等问题,本文结合待融合图像的特点,提出了一种适合于多任务平行训练的端到端的无监督卷积自编码网络的图像融合方法。卷积自编码网络能够克服有监督学习下图像数据集不够的问题,在网络能够很好地重构源图像的基础上,设计了基于特征层的融合单元,融合后的特征经过网络的解码层直接输出融合结果。实验结果表明,所提算法得到的融合图像主观视觉效果自然清晰,客观评价指标优于对比算法,能够得到质量较好的融合结果。(2)我们对卷积自编码网络进行进一步的研究。针对传统的基于空间域的图像融合方法中存在边缘信息丢失的问题,设计了一种面向多源同模态图像特征学习的联合卷积自编码网络并用于多聚焦图像融合,进一步提高多聚焦图像融合的质量。考虑到多聚焦图像先验的冗余和互补关系,将多源图像的公共特征和各自的私有特征分别表达到不同的网络分支。基于私有特征设计一种位置相关的活动测度度量多聚焦图像的聚焦性,以此设计融合规则,在空间域实现了多聚焦图像的融合。与主流的LP,PCNN,DTCWT,NSCT,CVT,SR和CNN等方法相比,融合效果较好,同时也检验了联合卷积自编码网络对多源图像的特征提取能力。(3)我们对联合卷积自编码网络进行进一步的研究。将联合卷积自编码网络用于多源多模态的图像特征提取,所提特征用于鉴别红外与可见光图像之间的互补和冗余关系,从而获得更好的红外与可见光图像融合结果。所提算法首先用联合卷积自编码网络同时训练红外与可见光图像,学习红外与可见光图像的互补与冗余特征。为提高联合卷积自编码网络特征的学习能力,将VGG19的部分层的权值迁移至网络的编码层,并设计与图像融合质量相关的多任务损失函数用于训练网络。根据输入的待融合图像的冗余和互补特性设计融合规则以实现特征层的融合,融合后的特征经解码重构后得到融合图像。主观视觉效果与客观实验指标表明,所提算法在红外与可见光图像融合中表现优异。
其他文献
研究目的:考察住房限购政策对南昌市住房价格变化的时空影响及对土地市场的溢出效应。研究方法:以双重差分模型为基础的计量分析。研究结果:限购政策对限购区和非限购区房价
在当代社会经济生活中,消费无时无刻、无所不在,人们花费越来越多的时间、精力投入到消费活动中,不同阶层、不同群体的消费者也都卷入到消费活动中。由于工业革命、零售业革
2017年11月,江某案登上新浪微博热搜榜,成为网友们热议的话题。回顾江某案的媒体报道,议程设置在其中起到关键作用。传播媒介给以的强调越多,公众对该问题的重视程度也就越高
市场经济社会的当代中国在经济方面表现为两种特征:(一)基本经济制度特征;(二)经济体制特征。与之相适应,民主可以从内容与形式上加以区分,民主的内容由基本经济制度特征决定,民主的形
在小粒咖啡种植园进行的咖啡园+大球盖菇和咖啡园+姬松茸两种复合栽培试验的结果表明:利用咖啡副产品混合其它原料生料栽培的大球盖菇和发酵料栽培的姬松茸生物学效率分别达36.5
我国海疆辽阔、岛屿众多,在6500多个大小海岛上,既有迷人的山海天象、洁净的海湾沙滩、奇特的山石形胜和丰富的海珍特产等自然风光旅游资源,又有历史古迹、宗教文化、建筑工程和渔乡
骨髓活组织检查可以显示骨髓细胞成分、造血组织的分布、肿瘤浸润特征,对骨髓纤维成分增多的疾病以及骨髓细胞增生减低的疾病[如再生障碍性贫血、低增生性急性白血病,低增生
为了解决气举-电泵组合举升配产过程中由于低效工况造成的生产不协调问题,通过研究油井流入动态、井筒多相流动特性、举升工艺的运动学及动力学特征,以及相互之间的能量作用
目的探讨亲情式护理在连续性血液净化技术治疗急性肾功能衰竭患者中的应用。方法我院选取2015整年内的血液透析患者作为本次研究对象,上半年所收治的患者作为对照组,下半年所
本文结合依兰牡丹江大桥主桥的拆除施工,对中承式钢管混凝土拱桥的拆除方法、施工控制及施工阶段受力安全性能进行研究。由于依兰牡丹江大桥主桥的工作性能已不能满足运营要