基于多层级联网络的多模态融合的显著性目标检测

来源 :安徽大学 | 被引量 : 0次 | 上传用户:gumozaoshi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
显著性目标检测就是从图像数据中找出最吸引人的部分,这部分区域被称为显著性区域。当下的一些显著性目标检测算法对于特征信息的利用不充分,使得最终训练得到的模型在鲁棒性和泛化能力方面较差。许多显著性算法都是针对可见光图像的,但是当可见光图像受到阴霾、光照等因素影响的时候,使用热红外图像效果可能更好。考虑到热红外相机在这些因素下受到的影响相对较小,本文针对RGB-T图像进行显著性检测研究,通过结合可见光图像(RGB)和热红外图像(T)两者互补融合特征信息,去解决一些复杂场景下的显著性检测问题。针对上述问题本文分别构建了一种基于多层特征级联的显著性检测模型和一种RGB-T图像特征融合的显著性检测模型。本论文的主要研究工作如下:(1)基于卷积神经网络的显著性目标检测在卷积过程中会产生多层级的卷积特征。为了更加充分地利用各个层级的特征信息,本文构建了一种新的端到端的显著性检测模型。该模型主要由两个模块组成。第一个模块是对特征进行融合,该模块所采用的主要操作是上采样、级联和反卷积操作,最终将多个池化之后产生的全局信息特征和局部信息特征等多个特征图融合为一个整体,从而通过该模块产生一个粗略的特征图。然后将第一部分产生的特征图送入到一个由多个卷积块构成的精细模块中,进一步优化。在两个模块中均使用一种混合损失函数进行监督,该损失函数具有细化显著性图像边界的作用,最终得到显著性图像。该模型可以对多层卷积特征进行有效灵活的融合,最终对图像进行精准的预测。大量实验表明,该模型在对图像进行显著性检测时具有很好的效果。(2)在上一个模型的基础上,考虑通过使用融合多模态的图像信息来进一步提高预测的准确性。从而构建了一种基于RGB和热红外图像特征融合的显著性检测模型。该模型首先分别对RGB图像和热红外图像进行特征提取,在将每一层对应的特征信息先进行多尺度特征信息融合,然后将RGB图像和热红外图像相对应的层级的多尺度特征信息进行融合,至此就得到了多层的融合特征。将融合之后的特征通过上采样、级联等操作融合在一起得到显著性图。并将其送入到本文第一个模型提到的精细模块中进行优化,得到了最终的显著性图像。该模型能够更好地融合多模态信息。通过大量实验证明了本模型的有效性。
其他文献
报纸
机器学习主要研究从数据中生成“模型”,但是要生成有效地模型,则必须有足够的有标签数据。然而,在许多实际应用场景中,为数据打上标签是非常耗时和昂贵的。主动学习是解决这一问题的主流方法,其主动选择一些对于模型有“价值”的样本加入训练集,旨在以尽可能小的数据标记成本训练得到预期的模型。主动学习的核心是样本选择策略,合理的策略可以有效地降低数据标记成本。尽管现有的样本选择策略能够显著降低数据标记的量,但仍
学位
科技的进步推动了人工智能的发展,而人工智能的成功离不开机器学习,尤其是深度学习技术的不断成熟。进行深度学习训练需要用到大量数据,但是随着人们隐私安全意识的提升,数据收集过程受到了越来越多的阻碍。而且在某些特殊领域想要得到准确的数据还存在一定困难。协同深度学习系统不需要将数据进行集中收集后交给第三方机构保管,其允许拥有数据的组织联合起来训练一个深度学习模型,解决了上述传统深度学习面临的数据收集和隐私
学位
由于密码子的简并性导致编码氨基酸不发生改变,同义突变过去很长一段时间被认为对生命活动没有功能影响。然而,随着测序技术的高速发展和相关研究的不断深入,越来越多同义突变被证明和疾病发展有密切关系。从大量同义突变中准确识别有害同义突变,可以提高人类对疾病病理的认识,并为精准医疗的发展提供帮助。因此,精准识别有害同义突变逐渐变成一项具有前景的任务。通过传统生物实验的方法来识别有害同义突变,耗费时间长并且成
学位
随着互联网技术高速发展,数字媒体成为了生活中重要的一部分。计算机,电子通信有关技术日新月异,多媒体有关技术也随之不断更新与完善,但是相关安全问题也随之而来。为了解决数字媒体中存在的严重安全问题,信息隐藏技术得到了广泛关注。此外,随着许多用户将个人的私密数据上传到互联网中相关平台进行存储,用户信息遭到泄露的风险显著增加。因此,将传统的图像加密运用到可逆信息隐藏算法中的技术,即密文域可逆信息隐藏技术受
学位
车牌是区分不同车辆的重要标识。随着车辆的不断增加和交通的日益繁忙,智能交通系统变得越来越重要。同时,车牌自动识别技术在智能交通系统中发挥着重要作用,如视频监控系统、停车管理系统和交通违章摄像头。然而,目前大多数方法都是针对特定场景下的清晰车牌,对于不受限制的远程交通监控场景中的模糊和低分辨率图像,仍然没有一个出色的解决方案,其识别精度可以达到实际应用的标准。在很难继续提高识别算法精度的情况下,我们
学位
基于卷积神经网络(convolutional neural network,CNN)的深度学习(deep learning,DL)方法发展迅速,在计算机视觉、语音识别和自然语言处理等领域取得了很多成功的应用,尤其是在图像分类和目标检测等方面,相比传统的机器学习方法,深度学习往往有着更加出色的性能。这是因为深度学习具有更多的参数和巨大的模型加持。但是,深度神经网络(deep neural netwo
学位
随着信息科技的飞速发展,摄像机得到大规模使用,视频监控系统在人们的日常生活中日益普及。在早先的视频监控中,摄像头采集到的图像数据大多是离散的,摄像机之间存在信息无法融合等问题。基于深度学习的目标检测与追踪则可以准确地反馈目标的坐标位置和目标运动范围,其在视频监控领域里有较好的应用前景。另外,一般视频监控的数据上传到数据中心缓存、分析和处理,传输过程需要耗费巨大的通信成本。鉴于此,本文提出基于边缘计
学位
近年来随着自动语音识别技术(ASR)水平的不断提高,在会议、教学以及车载语音等领域被广泛的应用。语音经过ASR转写会变成一串中文字符,但是这串中文字符并没有标点符号。这样的文本不便于读者的阅读,并且会对ASR后处理的其他任务(文本匹配,情感分析以及文本分类等)造成不好的影响。因此标点预测算法是ASR后处理技术中必不可少的。标点预测可以为没有标点的文本加上标点,增强文本的可读性。近年来,随着基于文本
学位
作为一种新型的软件架构风格,微服务以其可维护性高、可伸缩性强和发布周期短等优点受到了越来越多研究人员的关注和公司的应用。然而,微服务给软件项目带来优势的同时,也在应用过程中迎来了相关挑战,这些挑战主要分为技术和开发组织两方面。本文将主要聚焦于解决开发组织方面的挑战,目标是明确微服务的应用对开发组织带来了哪些影响,公司如何确定其开发组织是否适应微服务开发以及如何对开发组织进行调整以提高对微服务的适应
学位