基于深度学习的多源图像融合方法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:gdcjr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
多源图像融合技术将同一场景的异源图像信息整合到单幅图像,使融合图像包含了多源图像的互补信息,辅助工程系统做出更加精确的后续处理;其在无损检测、生物传感器、军事监测、临床诊断和遥感等领域均得到了广泛应用。传统的多源图像融合方法通过人工设计复杂的活动水平测量和融合规则来提升图像融合质量。在实际应用中,传统方法需要相应地调整融合策略来适应复杂、多变的应用场景。因此,传统方法的算法复杂度高,实现相对困难,通用性不够好。而基于深度学习的多源图像融合方法通过深度神经网络来提取图像特征信息、重构特征信息,利用损失函数约束整个网络获取源图像中的有效信息,并通过扩大训练数据的数量与种类来提高模型的通用性,训练过程无需人工干预,实现过程更加简单、智能。现有基于深度学习的多源图像融合方法虽取得了理想的效果,但在损失函数、网络结构与训练集的设计上仍存在提升的空间。针对上述3个方面,本文结合PET/MRI医学图像融合、多曝光图像融合以及红外/可见光图像融合3种应用场景,分别设计了相应的基于深度学习的图像融合方法。论文的主要工作包括以下4个部分:(1)提出了一种基于Wasserstein生成对抗网络的图像融合方法(MWGAN),用于正电子发射断层扫描(positron emission tomography,PET)图像与核磁共振(magnetic resonance imaging,MRI)图像的融合。该方法采用了Wasserstein生成对抗网络代替传统的生成对抗网络,使训练过程更加稳定。在传统生成对抗网络结构的基础上(单判别器),采用了双判别器结构。在生成器和2个判别器之间建立了2个对抗关系,这两种对抗关系使融合图像能同时保留源图像的有效信息,包括MRI图像中器官软组织结构细节,PET图像中的功能和代谢信息。由于医学应用场景具有多样性和复杂性的特点,对异分辨率医学图像融合的需求也在增加。本文设计的MWGAN能处理异分辨率的MRI/PET医学图像。在实验验证部分,设计了消融实验用于验证WGAN网络对融合效果的提升;设计了对比实验用于验证MWGAN的优越性。(2)设计了一种端到端的多曝光图像融合方法(GANFuse)。针对多曝光图像融合的特点,该方法在MWGAN的基础上进行了改进,使得GANFuse更加适用于多曝光图像融合场景。具体的改进如下:改变了判别器的输入方式,将源图像和该图像在融合图像中的贡献作为判别器的输入。此判别器输入方式使生成对抗网络的对抗性更加激烈、生成器训练得更加完善,融合图像能保留更多的源图像信息。可见光图像的有效信息包括纹理细节信息和光照强度信息。为了在融合图像中保存这2种信息,本文改进了原有的损失函数,将梯度损失和像素强度损失作为损失函数来约束整个网络。在多曝光图像融合实验中,通过消融实验验证了网络结构改进的有效性,通过对比实验验证了GANFuse的先进性。(3)提出了一种基于密集连接网络的红外/可见光图像融合方法(TPFusion)。为了红外图像中热辐射信息和可见光图像中纹理细节在融合图像中得到更好地保留,本文首先提取了红外/可见光图像的细节信息。将提取的细节信息作为辅助信息与源图像输入至后续的网络中进行融合。然后,分别采用两个密集连接网络来提取二者的特征信息,并根据特征信息的特点有针对性地设计了损失函数。最后,将融合后的特征信息通过预先设计的融合规则进行重构。在实验部分,设计了相关的网络结构消融实验以及对比实验,验证了TPFusion的有效性与先进性。(4)设计了车辆辅助驾驶系统中多曝光图像融合与红外/可见光图像融合的工程实验,具体包括:采集数据来模拟车辆行驶的场景,将本文提出的多曝光图像融合方法(GANFuse)用于提升车辆行驶场景中图像的动态范围;利用深度学习网络模型分别对可见光图像与红外可见光/融合图像的行人目标进行识别。工程实验结果表明,多曝光图像融合技术可以提升车辆辅助驾驶系统中图像传感器的动态范围;红外/可见光图融合技术可以有效提高车辆辅助驾驶系统的行人目标识别精度。
其他文献
目的 建立内控制剂消糖胶囊中主要成分盐酸小檗碱、葛根素和虎杖苷的含量测定方法。方法 用高效液相色谱法(high performance liquid chromatography, HPLC)对消糖胶囊中的盐酸小檗碱、葛根素和虎杖苷进行定量分析。用Kromasil 100-5 C18色谱柱(250 mm×4.6 mm, 5μm);以乙腈(A)-1 mL·L-1磷酸溶液(B)为流动相,梯度洗脱;流速
期刊
目的通过回顾性分析我科严重烧伤患者治疗过程中使用替考拉宁的经验,探讨替考拉宁在严重烧伤患者救治过程中的应用时机及应用方法。方法 200年以来我科共有10例严重烧伤患者救治过程中应用过替考拉宁抗感染,患者入院后早期应用广谱抗生素抗感染,伤后一周左右开始加用替考拉宁抗感染,中度感染首日使用量0.2g,1/12h,维持用量0.2g/日;重度感染严重者首日使用量0.4g,1/12h,维持用量0.4g/日,
会议
<正>在世界经济一体化发展的背景下,港口与腹地之间的关系变得越来越紧密,二者在经济发展过程当中的互动关系也越来越明显。在城市经济建设的过程中,港口发挥了重要的推动作用,同时也对周围地区行业发展起到了带动作用。与此同时,腹地经济也为港口的发展提供了动力支持。本文对港口经济与腹地经济之间的互动发展问题进行了分析与研究。研究发现,二者具有紧密的联系和相辅相成的关系。
期刊
<正>党的二十大报告第三部分,明确提出了新时代新征程中国共产党的使命任务。报告指出:“从现在起,中国共产党的中心任务就是团结带领全国各族人民全面建成社会主义现代化强国、实现第二个百年奋斗目标,以中国式现代化全面推进中华民族伟大复兴。”[1]紧接着,
期刊
报纸
报纸
新高考背景下,高中教学不再对文理科进行划分,为了全面落实“一核四层四翼”高考评价体系的要求,化学作为一门基础学科,“教什么,怎么教”,教师要根据学生实际情况,面对新高考模式也应开展新的教学实施研究,积极转化化学教学观念和教学方式,促进学生对化学这门学科的探索研究,从而达到“素养为本”的教育目标。
期刊
新课改深化背景下,培养学生核心素养成为高中化学教学教师中心任务。因此,对于高中化学而言,应当与时代需要相契合,应用针对性的方法,增强学生的核心素养。本文就此基于学生核心素养培养,对高中化学课堂教育策略进行分析。
会议
随着电商规模的逐渐扩大,传统的Hadoop资源利用率和计算速度都无法全面满足发展需求,因此提出将低延时、基于内存计算的Spark作为计算引擎。利用SparkCore、SparkSQL做离线分析、利用SparkStreaming做实时分析,将Hadoop分布式文件系统(HDFS)作为分布式文件存储,利用YARN做资源管理与程序调度,从而完成了一个电商的行为数据分析系统,通过Flume、Kafka等技
期刊
报纸