基于视场的沉浸式视频质量建模及应用

来源 :南京大学 | 被引量 : 0次 | 上传用户:liqingxian1986
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着相关产业链的成熟和生产力的发展,教育、医疗、职业培训和游戏等各行业的从业者都在积极拥抱虚拟现实技术带来的变化。作为虚拟现实资源的主要载体形式,沉浸式视频在实际观看中也给用户带来了完全不同的体验,即终端播放设备通常会覆盖用户的整个视场以隔绝外界光线环境;用户以视场为单位进行局部内容的观看,通过身体动作等交互方式来切换视场调整观看位置,具有极高的观看自由度。相应地,用户感知媒体内容的方式也发生了变化,从而导致传统的质量评价方法无法发挥很好的效果,而质量评价在视频传输优化、端到端系统性能评价等方面都有着重要的作用。因此,如何建立一个准确且实用性较强的沉浸式视频质量模型,是推广沉浸式视频应用亟需解决的问题。本文主要围绕如何建立沉浸式视频质量模型以及利用模型在系统中改善用户体验等问题展开讨论研究。主要研究工作和创新点如下:1.在沉浸式主观质量感知数据采集实验设计方面,本文在结合公开数据集和现有研究成果的基础上,对沉浸式媒体内容交互场景下的用户行为进行了大量的分析。分析结果表明:用户在沉浸式视频中对不同区域的观看时长不同,但是不同用户的重点区域观看存在一致性,且随着观看时间的增长用户会更加倾向于停留凝视某些重点区域。基于这样的分析,本文选择将用户重点关注的区域挑选出来作为测试素材,设计了基于视场的沉浸式视频主观质量感知数据采集实验,并采集了160人次在774个视频片段上的质量感知数据。2.基于上述的数据集,本文设计了基于视场的沉浸式视频质量感知模型,利用如视频的运动特征在内的原始视场视频特征来确定模型参数。该模型能够根据视频编码参数给出质量评价结果,不需要参考相应的有损内容就能够完成质量评价。因此,该模型能够对同一视频内容做到一次特征提取后多次使用,在实际应用中节约计算资源和计算时间。在独立的验证实验中,该模型给出的预测结果和相应真实值的相关系数PCC和S RCC均高于0.95,RMS E小于0.09,充分说明了该模型的有效性。3.为了提高模型在实际应用场景中的响应速度,节约计算资源,本文结合沉浸式体验中用户自由度较高的特点,设计了分块特征预测模块,进一步针对模型依赖的特征计算过程进行优化。在对预分块的视频进行一部分预计算的基础上,分块特征预测模块能够针对用户观看过程中随机出现的视场位置进行快速特征计算,获取当前视场的模型参数依赖特征。这样的工作模式能够简化因为用户频繁切换视场位置而带来的特征提取计算过程,同时验证结果显示基于分块特征预测建立的模型在准确率上并没有受到影响,即PCC和S RCC均高于0.94,RMS E小于0.09。4.在建立了可靠实用的沉浸式视场视频质量评价模型之后,结合用户行为分析的结论,即用户是以视场为单位进行沉浸式内容观看的并且对不同位置的关注度不同,本文将完整的全景视频质量感知结果分为高显著度视场区域和低显著度快速浏览区域感知结果的权重求和,构建了针对完整沉浸式视频的质量评价模型。并引用了四个第三方沉浸式视频主观质量评价数据集作为验证数据集,在规模最大的数据集VQA-ODV上与目前最新的V-CNN保持在了同一水平,即PCC大于0.85,S RCC大于0.90,RMS E小于0.07。相比于基于卷积神经网络构建的全参考模型V-CNN,本文中的方法仅依赖于半参考视场视频质量模型构建,计算量更小且针对相同视频内容无需重复进行特征提取计算。5.利用本文所构建的沉浸式视频质量模型能够在全景视频传输的过程中指导视频转码,通过选择最优化编码方案的问题解决在有限带宽下获取最优化用户体验的问题。在仿真实验中,基于模型的使用可以在同等带宽条件下最多提升40%的用户体验。
其他文献
光纤的对准熔接对建立优质的光纤通信网络十分重要,为了适应光纤熔接产品的开发需求,需要对产品的相关部件进行针对性分析测试。光纤熔接是通过对熔接区的光纤图像进行边缘识别,实现光纤的对准熔接,传统方法使用模拟信号图像,对边沿幅度的划分不清晰,抗干扰性能差,导致光纤对准效果差,因此研究精确的光纤对准方法对现代工业技术发展具有重要的实用价值。光纤熔接是通过光学成像实现熔接区的光纤对准图像采集,然后将捕获到的
在工业生产实践中,特别是石油化工等领域中普遍存在消防问题,一旦发生火灾必然会引发严重的后果,消防员可能面临火灾险情环境,如何解决在这些场景下的火灾救援问题引发了较大的关注。随着机器人技术以及自动化技术的发展,可以设计高性能的消防机器人,深入到火灾现场参与救援工作。本文即在此领域进行了研究,设计了一款小型履带式消防机器人,所设计的消防机器人可以进入现场,取代救火消防员进行火灾救援。首先,分析了火灾现
纳米碳酸钙是一种新型功能材料,具有尺寸效应、表面效应、晶核作用和界面效应等诸多特性。采用纳米碳酸钙对具有独特三维网络结构的环保型钙基地聚合物进行改性,进一步提升其力学性能,以期更好地应用于道路与建筑工程领域。本文通过改变纳米碳酸钙的混合方式、含量和分散时长等方式实现改性钙基地聚合物制备过程的调控,通过分析纳米碳酸钙对钙基地聚合物工作性能、抗压力学性能、劈裂抗拉力学性能和抗弯力学性能的影响规律,以及
以互联网为基础的信息革命推动了国际贸易方式的深刻变革,使跨境电子商务成为一种新型贸易方式。2016年以来,随着我国政府相关跨境电商零售进口政策的出台,很多大中小型电商企业涌向零售进口市场。大型电商企业经营产品普遍丰富,中小型电商企业经营产品相对单一,在经营过程中面临的问题不同,需依据自身实际情况有针对性地制定经营决策。销售渠道选择作为经营决策的一个重要方面,直接影响跨境零售电商的市场占有率和盈利水
审美价值观简要来说就是一种审美审丑观,它涉及到我们对事物的根本看法和评价态度。审美价值观教育是高校思想政治教育的重要组成部分,也是对大学生进行全面教育不可缺少的一环,这关系到大学生综合教育的推进。与德育、智育、体育相对比,审美价值观培育有着独特的功能和作用,源于此,在新时代背景下研究大学生审美价值观,对于丰富审美价值观培育的相关理论、拓宽美育的育人视野及渠道等具有重大意义。本文在已有美育研究成果的
随着中国国家铁路集团有限公司公司制改革的进程不断加快,国家和市场对铁路会计信息准确度的要求也越来越高。为改善路局各站段会计工作模式粗放,预算指标不统一,业务财务预算“两张皮”的现状,国铁集团自2019年开始,全面推进业财融合的预算管理体系,对各局站段的预算指标体系的再构建进行讨论,并开始架构财务共享平台辅助会计工作的开展。然而,全国各铁路站段职能分工不同、承担的责任不同,在预算管理体系的构建上无法
我国耕地幅员辽阔,耕地面积占全球第四,但我国人口众多,拥有14亿人口,占全球总人口数的18%,人均耕地面积仅仅为全球平均的三分之一,因此确保足够的粮食产量一直是我国发展的重中之重,因此开展耕地质量等级评价是一项确保粮食安全及耕地资源的有效利用的极为有效的举措,对我国的农业发展及耕地资源可持续发展有着极为重要的意义。本文以安庆市为研究区,结合2019年土壤监测数据、矢量图件、文本资料,采用了层次分析
碳纤维复合材料夹层板凭借着其自身优异的力学性能被广泛的应用到了航空航天,船舶制造,汽车,医疗等先进的领域。相对于传统的单一材料组成的结构,碳纤维复合材料夹层板这种新型的结构更适应了时代发展的需要。碳纤维板具有比重小,强度高,耐腐蚀性和耐磨性强等诸多优点。而碳纤维板和有孔状的轻质泡沫材料所组成的夹层板集合了这两种材料的优点,抗冲击性能和吸能能力都十分优异,这类夹层板通常被用作结构的抗冲击防护。抗冲击
在成熟的风险投资实践中,优先股以其分红优先权、清偿优先权以及表决权限制等特性受到了风险投资家与创业企业家的广泛青睐,并普遍得到立法机关的确认。对风险投资家而言,通
目的:通过构建小鼠来源神经瘤母细胞(Mouse neuroblastoma N2a cells;N2a cells)的氧糖剥夺/复氧模型(OGD/R),验证micro RNA-29b(Mir-29b)对N2a细胞缺氧/复氧损伤具有保护作用,同时对其潜在的保护机制进行探讨。验证IV型胶原蛋白基因a1(a1 type IV collagen;COL4A1)为mir-29b的靶点基因。通过对N2a细胞O