基于深度学习与可逆生成模型的多模态图像融合方法研究

来源 :昆明理工大学 | 被引量 : 0次 | 上传用户:bluefireyang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
多模态图像融合作为信息融合的一个热点,能够有效解决单一传感器成像能力有限,难以获得全面的空间信息的问题,在监控分析、军事安全、医疗影像等多个领域具有很高的应用价值。本文从两个方面出发分别对红外和可见光图像融合和医学图像融合进行了深入的研究,一方面采用了浅层模型与深度学习相结合的方式;另一方面,使用了一种基于现有融合模式之外的深度生成式融合思路。具体工作如下:在基于深度神经网络和结构-纹理分解的红外与可见光图像融合算法中,针对当前红外与可见光图像融合方法中存在低频信息未利用充分,以及高频细节易混入噪声的问题。本文提出了一种三频带分解模式,首先采用均值滤波将输入图像分解为高低频子带,为了充分利用低频信息引入结构-纹理分解模型对低频子带二次分解,根据特征属性以平均法则与邻域空间频率分别对结构和纹理进行有效预融合;其次采用预先训练的深度网络提取源图像的多层特征映射进行Sigmiod归一化策略以获得最终权重图,由最终权重图作为权重系数进行高频子带的预融合对高频子带进行预融合;最后利用预融合的高频、低频结构和低频纹理三个频带进行图像融合重建。实验结果表明,该算法能够融合图像的深层细节特征,有效保留纹理细节并抑制了噪声的生成。在基于条件可逆神经网络的多模态医学图像生成式融合算法中,针对现有基于深度神经网络的医学图像融合通常编解码模块独立且模型不可逆,引起融合过程中源图像信息损耗较大,且模型训练不易收敛的困难。本文提出一种具有融合架构且无训练参数的条件融合网络,并将可逆神经网络与无约束条件融合网络相结合,通过精确的对数似然计算和潜在变量推理,从而实现高效、精确地指导空间显著特征的分析及重构。提出的算法框架具有可逆性和参数共享性,由此引入了一种具有正向分析和反向重建的双向重用损失,以实现高层语义信息和空间细节的有效集成。该算法对五类不同医学图像对的融合具有通用性,实验表明了提出的算法架构在高效训练的基础上可以生成更具有适应性和表现力的融合图像。
其他文献
青藏高原东南缘的隆升模式与印度-欧亚板块碰撞后的地形演化密切相关。作为青藏高原东南缘构造活动最强烈的地区之一,川西北地块一直都是地质工作者们公认的了解高原构造隆升和地表演化的完美区域。对于青藏高原东南缘构造变形机制的问题,目前存在两种主流的地球动力学模型:“刚性块体侧向挤出模型”和“下地壳管道流模型”。其中,“刚性块体侧向挤出模型”强调构造变形与应力的积累存在于块体边界的大型走滑断裂上,而“下地壳
学位
应力发光是指材料响应外界机械刺激而发光的过程,由于其优异特性,例如拉伸性、远距性、应力分布、多模态性和生物相容性等等,在应力传感、电子签名和智能穿戴等领域具有广阔的应用前景。对应力发光材料的智能操纵是实现各种新兴实际应用的关键,然而多年来科学工作者对应力发光材料的研究侧重于团聚的微米级别的荧光粉,针对于单分散的纳米颗粒实现应力发光的设计理念及性能研究仍无定论。本文以实现纳米颗粒应力发光为导向,采用
学位
合成孔径雷达干涉测量(Interferometric Synthetic Aperture Radar,InSAR)作为一种新型空间对地观测技术,近年来被广泛应用于各种地表形变监测,并取得了显著性效果。但随着SAR卫星数量增加、影像宽幅加大、重访周期缩短以及长时间的积累,目前SAR数据存档量达到PB级以上。一方面,丰富的SAR数据可以更精确地获取长时序、大范围地表形变信息;另一方面,海量SAR数据
学位
基因组印记(Genomic imprinting)是指,在多细胞生物(例如哺乳动物)中单等位基因表达的现象,是表观遗传学调控的经典生物学事件之一。其在调控胚胎发育、新陈代谢、疾病发生与精神异常等方面起至关重要作用。过去几十年,已经有众多研究工作对基因组印记进行了探讨。然而到目前为止,非近交系物种的基因组印记相关研究仍十分有限。一直以来,DNA甲基化被认为是调控基因印记的唯一机制。直到最近研究表明,
学位
锌镍电池具备工作电压高、原材料来源广泛、无记忆效应、无毒等优点,在新能源领域具有显著竞争力。但是锌镍电池锌负极存在枝晶生长、钝化、自腐蚀等缺陷影响其进一步发展。为了解决锌镍电池负极存在的问题,本文以锌铝水滑石为基础,引入金属元素镓和钆,采用水热法制备锌铝镓水滑石和锌铝钆水滑石,还通过煅烧锌铝镓水滑石和锌铝钆水滑石获得其氧化物,利用X射线衍射、扫描电镜、BET比表面积分析等表征手段研究制备出的样品的
学位
随着人民生活水平的不断提高,人们对于人文景观所带有的本土文化具有更加的热忱,而中国古代的景观营建历来是具有浓厚的诗意。如何使当代的人文景观建设更加具有传统景观的诗意成为一个越发重要的问题。而要设计出能较好继承传统人文景观诗意性的景观,无疑需要投入大量的人力和时间在前期的调研上,这也使得很多人文景观项目文化表达缺失的问题。针对这一问题,本研究以南京的钟山风景区为例,梳理了钟山人文景观的基本情况,搜集
学位
X射线探测作为最重要的光电应用之一,已在医疗影像、工业无损探伤、安检安防等多个领域被广泛应用。其中,CsPbBr3钙钛矿纳米晶(PNCs)基于其高的X射线吸收系数、大的载流子迁移率、快的衰减时间、易调谐的发光颜色以及可溶液化处理等优异性能,有望成为制备高性能X射线探测器的闪烁体材料。然而,高的比表面积导致CsPbBr3 PNCs产生了大量的表面缺陷,降低了其稳定性及光学性能,阻碍了其在光电领域的实
学位
传统的温度传感器属于接触式温度传感器,在一些极端恶劣环境和特定需求的场景无法达到测温需求,基于光学快速响应的非接触式光学温度传感器成为近些年来温度传感器的研究热点。上转换稀土发光材料具有光学性质稳定,发光范围覆盖广泛等优点,因此基于稀土发光的比率性温度传感器备受欢迎,本文旨在制备和研究稀土掺杂钛酸铋的光学性能及光学温度传感行为,材料在近红外激光器的照射下表现出来的优异光学温度传感性能对其在生物组织
学位
高炉煤气是钢铁冶炼过程中常见的副产资源,可以直接作为燃料使用,也可以进一步净化作为化工原料,具有很高的利用价值。硫化物是高炉煤气中典型的污染物,其中浓度较高的是COS和H2S,分别达86-118 mg/Nm~3和20-60 mg/Nm~3,直接排放远不能达到国家“超低排放”标准,且由于COS和H2S的存在,会带来管道腐蚀、催化剂中毒等一系列问题,不利于高炉煤气后续利用,因此对COS和H2S的去除是
学位
在能源紧张和全球气候变暖的双重压力下,许多国家开展发动机清洁低碳燃料研究,并提出降碳目标。2020年我国提出“2030年实现碳达峰,2060年实现碳中和”的目标承诺。作为零碳燃料,氢燃烧后生成水,无CO2排放。由于氢气自燃点较高,难以通过压缩来实现发动机着火。通过在一台高压共轨柴油机上加装一套氢气喷射系统,将其改装为氢气/柴油双燃料发动机,实现进气道喷射氢气。氢气由直接喷入气缸的柴油引燃,实现双燃
学位