基于阶梯流特征融合和文本解耦的图像修复方法

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:Coolbear
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图像修复是在给出的破损图像基础上,采用合理的、符合整体图像语义的内容填充缺失的孔洞区域,要求图像逼真、细节丰富。现有图像修复方法主要通过融合多尺度特征来应对内容多样的破损图像,然而这些方法融合多尺度特征的方式不够合理,因而修复效果不尽人意。本文提出了基于阶梯流特征融合的图像修复方法(S3FNet),通过对带孔洞区域的残缺图像进行多尺度特征融合,能得到清晰且全局语义一致的逼真图像。在S3FNet的阶梯流特征融合模块的作用下,能在预测孔洞区域的多尺度特征过程中,渐进且高效地融合不同尺度的特征信息。S3FNet中的多级注意力机制,可以在图像修复过程中关注不同尺度的特征关系,进一步提升多尺度特征融合能力。此外,还针对孔洞区域的图像细节恢复进行了网络设计,以提升孔洞区域细节的精细程度。S3FNet在多个数据集上的修复效果明显优于其他方法,且消融实验表明设计合理有效。除此之外,为了进一步提升修复效果和增加对修复的控制能力,本文还提出了一种基于文本解耦的图像修复方法(TDINet)。TDINet是一个文本指导图像修复模型,能通过输入的残缺图像和相应的文本描述,得到既满足输入图像整体语义又符合文本描述的逼真图像。TDINet的文本解耦模块,可以利用破损图像本身蕴含的信息,对文本描述进行解耦,获得对修复有帮助的关键文本特征。该模块使网络更加关注文本描述的重要信息,保证修复结果尽可能与文本描述一致。TDINet的结构-细节双通道重建模块可以用于提升网络对于图像结构和细节的预测能力,提升修复结果细节的精细程度。本文对TDINet进行了全面的实验评估,证明了方法的有效性、合理性。为了探究文本控制能力,采用多种文本描述进行图像修复。实验结果表明,TDINet能在维持输入图像的原有语义上,生成满足文本描述的逼真图像。
其他文献
微小隐孢子虫是一种人兽共患的顶复门寄生虫,其具有结构特殊的分泌型细胞器(例如:微线体、棒状体和致密颗粒),这些细胞器在虫体入侵过程中将其内容物释放,其中微线体在顶复门寄生虫入侵宿主细胞过程中发挥重要的功能。GP900蛋白作为一个具有单个跨膜结构域的粘蛋白样糖蛋白,前期被文献报道为微线体蛋白,且在分泌的过程中由微线体转移到子孢子表面并释放形成滑行轨迹。但是,目前有关该蛋白转移到子孢子表面和释放的生物
学位
玉米赤霉烯酮(Zearalenone,ZEN)是由镰刀菌通过聚酮化合物途径合成的一种具有雌激素特性的真菌毒素。ZEN常存在于镰刀菌或真菌毒素污染的谷物中,如玉米、大麦、燕麦、大米。人和动物食用含ZEN的谷物,可诱发急慢性中毒,导致肝、肾、生殖系统和免疫系统损伤。因此,建立简单、方便和超灵敏的ZEN检测方法是控制ZEN对人和动物健康危害的有效技术手段。目前,ZEN的检测方法主要包括高效液相色谱法(H
学位
我国在“十四五规划”中指出要提高数字基础设施建设水平,适度超前部署下一代智能基础设施。智能路灯作为发展智慧城市和推动社会数字化转型的重要基础设施,能够推动城市交通、城市安全和环境感知的全面提升。因此如何利用路灯上丰富的数据信息服务城市综合治理,成为了一个热门的研究领域。与此同时,随着高端传感器、物联网芯片和通讯设施的蓬勃发展,智能路灯可以作为最新的物联网落地场景,对道路感知相关算法进行研究。当前路
学位
维氏气单胞菌(Aeromonas.veronii,A.veronii)是一种重要的人兽共患病病原体,属于气单胞菌属,在自然环境中普遍存在,具有广泛的宿主谱和显著的致病性,能够感染鱼类、两栖类和包括人类在内的哺乳动物,对水产养殖业的可持续性发展和人类的健康构成了严重威胁。近年来,人们对A.veronii已知的毒力因子进行了大量研究,而关于新毒力因子的研究却鲜有报道,因此,进一步探究新的毒力因子有利于
学位
结直肠癌(Colorectal cancer,CRC)是严重威胁人们健康和生命的癌症疾病类型,随着科技进步已在CRC的预防、诊断和治疗等方面取得了重大进展,但全球范围内CRC患者发病率与死亡率仍居高不下。其中原因主要包括结直肠癌临床类型复杂,CRC患者术后肿瘤复发及转移和缺乏早期诊断及预警靶标标志物等,重要的是早期发现是减少死亡率的重要举措之一。因此,筛选和研究早期诊断生物标志物对CRC诊断、预后
学位
随着互联网的飞速发展,人们之间的沟通变得更加实时便利。科技的进步在满足人类社交需求的同时,也极大拓宽了人们的社交圈,人们的社交关系所构成的社交网络规模也越来越大。如何利用社交网络更好地传播信息,使得影响传播最大化是一个十分现实而具有挑战的问题。而在很多实际应用场景下,成本预算是一个很重要的因素,目前针对成本约束下的影响最大化的研究还寥寥可数,有待进一步地研究。本文提出了一种基于社区检测的蚁群系统(
学位
经颅磁刺激技术可以对患者的脑区进行激活治疗,在脑功能障碍康复应用广泛。目前传统的经颅磁导航系统自主导航功能较差,存在价格昂贵、需要患者佩戴光学定位标记、患者的活动自由度不高以及线圈标定校准程序复杂等问题,导致目前大部分的经颅磁导航系统无法推广使用。设计一种高精度、低成本、交互良好的经颅磁刺激系统,对于推广国产化经颅磁导航系统以及提高医疗自动化程度具有广阔的实用前景。经颅磁刺激对线圈的定位精度要求高
学位
微小隐孢子虫(Cryptosporidium parvum)是一种重要的食源性人兽共患寄生虫,由其引起的隐孢子虫病能够导致人和动物产生腹痛、腹泻等症状。在发展中国家,C.parvum和C.hominis是导致婴幼儿中度乃至重度腹泻的主要病原体之一。糖基化是生物体中普遍存在的蛋白质修饰之一,包括隐孢子虫和其他顶复门,大约50%的蛋白质可能被糖基化。在隐孢子虫中,N-和O-连接的糖基化都大大简化了,并
学位
狂犬病是由狂犬病病毒(rabies virus,RABV)感染引起的一种嗜神经性人兽共患急性传染病,感染者一旦发病后,病死率几乎100%,无有效的临床治疗手段,且目前其致病机制仍不清楚,有待更深层次的研究。Rac1是Rho GTPase家族中重要成员之一,其在非活性GDP结合形式和活性GTP结合形式之间转换,并通过多个下游信号通路控制各种细胞功能,包括肌动蛋白细胞骨架的重组、细胞迁移和基因表达等。
学位
机器人技术在飞速的发展,各行各业都出现了机器人代替人类工作的身影。医疗领域中也涌现了各式各样的机器人辅助医生完成医疗工作。而在如今新型冠状病毒肺炎(COVID-19)在全球的爆发的大背景下,使用超声机器人来辅助医生工作不仅能缓解医生的工作压力,更能在一定程度上避免医生在与病人接触的过程中感染病毒,具有很大的研究意义。由于人体体表没有标志点可以用于器官位置估计,全自动超声机器人难以从体表定位器官。同
学位