基于结构信息推断的深度学习图像复原方法研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:w8521843d
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图像复原是图像退化的逆过程,旨在恢复出退化前的图像信息,是图像处理领域重要的研究课题。近十年来,深度学习实现了长足的进步,极大地推动了图像复原技术的发展。但是图像复原领域在取得一系列突破之后,发展逐渐放缓。另外,基于深度学习的图像复原方法由于任务的不适定性,复原结果模糊,视觉质量欠佳。如何解决上述两方面问题,是当今图像复原领域的重要方向。而在图像中,结构是典型的图像特征,可以将其作为中间变量引入复原任务对学习过程正则化进而提升性能。同时结构信息还决定图像的清晰程度,这也为缓解模糊提供了可能途径。本文由此出发,围绕结构推断和辅助的思想,分别在图像修复、图像去噪和图像超分辨率三个不同的图像复原子任务中开展研究,主要工作内容归纳如下:本文设计了边缘辅助的生成式图像修复算法,其中采用的结构为边缘。本文围绕结构推断辅助的思想,在基于深度学习的图像修复方法中将任务拆分为两个步骤,首先生成破损区域的边缘,然后使用边缘约束图像修复。本文采用基于卷积神经网络的边缘提取器输出的边缘图作为图像中的结构表征,提出基于生成对抗网络生成缺失区域结构的方案,与使用曲线拟合重建边缘的传统算法相比,适用场景更广泛。边缘生成后将其作为额外信息引入后续图像修复网络约束修复图像,与最先进的图像修复方法相比,修复的结果无论是量化指标还是视觉效果都更优越。本文设计了语义分割辅助的图像去噪算法,其中采用的结构为分割图。本文启发于经典去噪方法对相似块协同滤波的做法,结合结构推断辅助的思想,提出了包含两个步骤的解决方案:先使用分割网络估计出分割图,然后在去噪网络中对特征层依照分割图进行条件归一化,实现各个区域内部关于语义类别的非局部一致性。通过这种方法,本文首次实现了利用分割图同时提升去噪视觉效果和信号恢复质量。另一方面,本文发现语义分割的精度会受到噪声的干扰,而通过在语义分割前引入图像去噪可以弥补部分由于噪声引发的精度损失。结合前述两方面内容,本文进一步提出一种去噪和分割交替进行的提升网络以增强二者的性能,并借此网络研究了图像去噪和语义分割之间的协同作用。本文设计了可控边缘辅助的真实图像超分辨率算法,其中采用的结构为可控制疏密程度的边缘。现有真实图像超分辨率算法使用生成对抗网络结果仍然会模糊,同时结构部分容易出现瑕疵。针对这两个与结构相关的问题,本文在真实图像超分辨率这种处理复合降质的任务中进一步挖掘结构推断辅助方案的潜力,提出了两阶段的解决方案:第一阶段先从低分辨率图像估计高分辨率边缘,第二阶段通过高分辨率边缘约束超分辨率结果。但是真实场景中高分辨率边缘解的多样性高,为了降低不确定性,算法提出由用户控制边缘疏密程度从而引导高分辨率边缘的估计。在高分辨率边缘的辅助下,算法有效缓解了模糊和结构瑕疵的问题,显著提升了真实图像超分辨率的视觉质量。同时,用户引导边缘的疏密,间接控制超分辨率结果的清晰程度,实现了多样化超分辨率的功能。用户在实际应用中可以根据自身喜好选择中意的超分辨率结果。结构推断和辅助的通用流程为将图像复原问题分解为两步:首先由退化图像推断出复原结果的结构信息,再以该结构为约束辅助图像复原。本文以该思想为核心,借助深度学习技术,在三种典型图像复原任务上进行设计和探究,丰富的对比实验证明了提出的三个算法在各自任务上的优越性。本文遵循由特殊到一般的研究思路:先在图像修复和图像去噪任务中处理单一降质,再在真实图像超分辨率任务中处理复合降质(包括模糊、噪声、压缩块效应和下采样),通过三种不同的任务验证了结构推断辅助的思想在图像复原领域的通用性和有效性。
其他文献
三维(3D)细胞培养接近于原生细胞的生长环境,可以更好地发挥细胞本身的功能以及加强细胞之间的联系,因此发展适用于细胞3D培养的3D细胞支架具有十分重要的意义。近年来,各类3D细胞支架相继出现,已广泛应用于生物芯片集成、血管组织生成以及3D神经网络构建等领域。神经元是一种存在特殊的轴突和树突结构的细胞,通过定制的3D支架可引导其形成复杂的神经网络,这引起科研人员浓厚的兴趣并进行了相关研究。但是,受限
学位
课程思政教育教学改革对实现高校立德树人根本任务、培养符合社会主义核心价值观的高水平人才具有重要的作用。《植物生理学》是植物生产类相关专业的基础课程与骨干课程,文章以高校《植物生理学》教学为例,分析该课程的教学目标和思政目标,提出与《植物生理学》课程教学相融合的思政教学策略与实例,通过普及生态文明教育引导大学生树立正确的学习、研究与实践观,促使学生专业技能和职业素养的提高。
期刊
在协同育人背景下“课程思政”是当下每个专业课教师首要思考的问题。植物学作为省级首批课程思政样板课,从课程内容整合、教学目标细化着手,形成符合课程要求的“美、真、辩、思”四字教学法。优化教学设计,探索课程思政价值引领切入点深度和广度,保证价值引领切入点常新,形成植物学课程思政体系。以费曼教学法打破课堂沉默,延伸课堂组织,落实教学环节六大模块。融合研学旅行和创新创业,强化现代教育技术应用,打造线上一流
期刊
报纸
CdTe是一种稳定的Ⅱ-Ⅵ族二元化合物,禁带宽度在室温下约为1.45 eV,可见光范围内的光吸收系数可高达105 cm-1,这使它成为理想的光伏材料。CdTe太阳电池转换效率高、长期稳定性好、成本低廉等优势,使其成为最具竞争力的薄膜光伏产品之一。在过去数十年间,成功进行了大规模的商业化生产。CdTe薄膜太阳电池转换效率的理论极限为32.1%,目前实验室小面积CdTe太阳电池和电池组件的最高转换效率
学位
作为一种全新的计算范式,边缘计算能够有效缓解边缘端庞大计算需求与终端有限算力之间的失衡。由于将云服务从核心网推向到了网络边缘,边缘计算可以很大程度上缩减任务数据的传输时延。然而,仅凭架构带来的传输时延优势难以满足时延敏感型应用的要求。为了进一步提升边缘计算的整体效率,需要对其任务时延进行优化。本文关注于多个用户或多个边缘节点共存的边缘分布式场景,并针对其中的多点协同计算任务展开时延的优化研究。本文
学位
随着社会经济发展的日新月异和城市化进程的逐步加快,高层建筑的数量与日俱增,随之而来的大量火灾事故,也引起了人们广泛的关注。统计数据表明,火灾事故中将近85%的死亡都是由有毒烟气造成的。楼梯间作为高层建筑众多竖向通道之一,在发生火灾时一旦进烟,除了会成为热烟气扩散到其他楼层的主要通道,还会对人员疏散造成影响,威胁他们的人身安全。在高层建筑火灾中,常常存在着一些重要的环境条件,如楼梯间的开口状态、环境
学位
报纸
环状聚合物具有与线形聚合物不同的结构与性能,因而受到了广泛的关注,并在生物医学领域发挥着独特的作用。基于此,本文探究了环状拓扑结构对聚合物纳米胶束在高盐溶液和蛋白溶液中的稳定性以及对阳离子聚合物抗菌、抗生物膜性能的影响。结果表明,环状拓扑结构可以改善纳米胶束的耐盐和抗蛋白吸附性能,增强阳离子聚合物的抗菌与抗生物膜效果。此外,本文还构建了苯硼酸功能化的银纳米颗粒,通过提高银纳米颗粒的利用度,提高了其
学位
2021年生效的《蒙特利尔议定书》基加利修正案限制了七氟丙烷(HFC-227ea)、六氟丙烷(HFC-236fa)与五氟乙烷(HFC-125)三种目前常用灭火剂的排放,开发新型低温室效应潜能值与零消耗臭氧潜能值灭火剂至关重要。氢氟烯烃满足新型灭火剂的环境要求,是一类值得研究的潜在环境友好型灭火剂。本文以顺式1,1,1,4,4,4-六氟-2-丁烯(HFO-1336mzz(Z))为研究对象,采用实验和
学位