数据驱动的图像感知和质量评价方法

来源 :中国科学院大学(中国科学院深圳先进技术研究院) | 被引量 : 5次 | 上传用户:fogflower
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着数字媒体技术的飞速发展,人类已经进入到一个信息时代,海量的图像出现在人们生活的方方面面并发挥着重要的作用。由于在图像的采集、传输、存储到显示等各个环节都不可避免存在噪声,因此最终显示在用户端的图像会存在质量损失,即图像失真。在流媒体应用中用户对高质量的体验需求又在不断提高,因此需要预先对图像的失真程度进行评估,即图像质量评价。为了保证用户良好的观看体验,图像感知和质量评价成为一项必不可少的工作。随着大数据时代的到来,从图像数据中发掘规律,即数据驱动的图像质量评价方法显得尤为重要。本论文以图像感知为出发点,着重考虑人眼视觉系统特性,构建符合人眼视觉系统特性的质量评价方法,主要有以下几个方面的研究:1.针对图像失真类型多样性影响图像质量评价问题,提出一种基于多专家卷积神经网络的无参考图像质量评价方法。在实际应用中,图像失真类型多种多样,现有的图像质量评价方法并不能在每一种失真类型上都表现最佳,本文首先识别图像失真类型,得到该图像属于若干个失真类型的概率值;接着,针对每一种或一组失真类型训练特定的专家网络;最后,将识别模型输出的概率值和多专家网络预测结果融合起来得到图像的质量分数。通过实验分析发现,针对特定失真类型训练的专家网络与单一网络模型相比性能有很大的提升,说明专家网络能够学习到对特定失真类型敏感的有效的特征表达。在LIVE II和CSIQ数据集上的实验结果表明提出的基于多专家卷积神经网络的无参考图像质量评价方法预测结果与人眼视觉系统有很强的相关性。2.提出了基于深度学习的图像质量和用户满意度(Satisfied User Ratio,SUR)预测方法。根据人眼视觉系统的恰可察觉失真特性,人眼并不能察觉图像中的微小失真,只有当失真达到一定的阈值才能被感受到,这个阈值被称为JND。传统的JND模型关注像素域或者子带域,但是由于掩蔽效应等,图像中某个或者某些像素值超过其JND范围时并不一定能够被人眼察觉,本文关注的是图像级JND(Picture-level JND,PJND)。由于人眼的生理结构、视力状况、知识储备等不同,不同个体的PJND阈值也有所差异,因此为了表达群体的PJND,引入用户满意度的概念。用户满意度是指群体中对当前质量满意的用户比例。本文提出了基于深度学习的2D图像的SUR和PJND预测模型。对压缩图像的SUR进行预测更具实际意义,在给定用户满意度的条件下,可预测出最大编码参数、最大失真等级和最小码率。研究成果可直接应用于流媒体领域,节省图像编码码率进而大大减少流媒体运营商的成本。3.构建了基于PJND的对称和非对称压缩立体图像数据集。立体图像给人身临其境的视觉体验,这更符合人眼对周围真实世界的感受,然而,人眼对立体图像的PJND特性还需要进一步的探索,并且在本文之前还未出现基于PJND特性的立体图像数据集。本文通过主观实验研究立体图像的PJND特性,包括设置实验环境、收集立体图像数据、组织实施实验过程、对实验结果进行统计分析等。实验发现随着失真等级增大,SUR不断减小,说明失真等级越高导致用户的满意度越低。实验还发现JPEG2000非对称压缩的PJND左、右视点质量差异均值是2.12 d B,H.265非对称压缩的PJND左、右视点质量差异均值是2.38 d B。最后,构建了基于PJND的对称和非对称立体图像数据集,分别命名为SIAT-JSSI和SIAT-JASI,该数据集已经公开发布在IEEE Dataport平台。4.基于本文构建的面向PJND的立体图像数据集SIAT-JSSI,本文提出了立体图像的感知质量和用户满意度预测方法。首先,考虑到立体视觉的双目竞争机制和双目融合机制,从参考图像和失真图像对中提取特征,包括立体图像质量特征、单目视觉特征和双目视觉特征。然后,从提取的特征中选择关键特征并将特征融合再输入支持向量回归模型,学习特征空间到用户满意度的映射函数。由于立体图像数据集规模较小,采用了跨任务的迁移学习减少过拟合。在SIAT-JSSI数据集上的实验结果表明提出的方法性能较好。
其他文献
在参观了作为德国的象征之一的新天鹅城堡后,车往西南方向行驶约二小时,已穿过奥地利、列支敦士登两个国家进入瑞士境界。因自费游人数凑不够20人,游列支敦士登的计划告吹。
分析云时代下传统计算机网络技术专业顶岗实习遇到的困难和挑战,提出在校内创建"云计算"顶岗实习平台,学生通过该平台向小微企业用户提供应用程序、桌面、数据资源等信息化服务
<正>近日,由中共中央宣传部、北京市人民政府主办,中国图书进出口(集团)总公司承办的第二十六届北京国际图书博览会(BIBF)在中国国际展览中心新馆举行。《炼油技术与工程》经
本文就白酒定量包装产品平均净含量普遍呈负偏差的现象,从白酒定量包装的环境温度、灌装设备、计量器具、盛酒容器以及白酒产品易挥发特点几个方面结合工作经验对引起白酒定
通过光学显微镜和扫描电镜观察和研究了花花柴叶的形态解剖结构及其与生态环境的关系.结果表明,花花柴是典型的泌盐植物,叶的形态解剖结构明显表现出与其生态环境相适应的显
海洋平台油气处理系统作为海洋油气开发的重要环节,作业环境恶劣,压力容器、管道等设备集中,日常生产介质油气并存,一旦发生油气泄漏,极易引发火灾爆炸事故。且油气处理系统
陆生高等植物死亡后,在漫长的地质演化过程中,经过水、沙土共同作用形成植物根管,根管在风、沙共同作用下风蚀为沙漠地表根管大颗粒,成片的根管大颗粒在沙漠中形成根管砾幕,
因水资源匮乏及水污染日益严重等问题,海绵城市逐渐进入大众视野,并成为城市建设重点。中小学校园拥有建设海绵城市的先天优势,通过对其研究及实践适用可化用于其他类型的建
保护环境的理念,与当前国家政策、经济、文化及社会相辅相成、共同发展。本文从生态设计的概念出发,分析了国内外微型住宅空间生态化设计的发展现状、现存问题及研究价值,以