多视点深度图采集与质量评估方法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:ty782406826
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着视频技术的发展,能够带来沉浸式体验的3D视频(3D video,3DV)和能够实现观众与内容商之间交互的自由视点视频(free viewpoint video, FVV)引起了高度的重视和广泛的研究。此类新型视频系统中,利用多视点深度信息不但可以大大减少所需的视频数据量,还可实现任意视点绘制,提高系统的灵活性;因此,多视点深度信息具有十分基础又至关重要的作用。另一方面,深度值表征场景到成像平面的距离,它只能通过测量或者计算的方法获得,其中必然引入错误。因此,高质量深度图的获取及其质量评估成为3D视频和自由视点视频系统中意义重大的问题。本文围绕该课题展开了三个方面的研究。首先,本文研究了多台RGB-D相机对场景进行多视点深度图采集的方案,解决了多台深度相机之间干扰的问题;然后,考虑到现有RGB-D相机产品无法满足新的视频应用对深度图的需求,本文提出了一种基于相位结构光和主动立体匹配的混合式采集方案以获取深度图;最后,本文研究了深度图的质量评估问题,考虑到无失真的参考深度图往往不存在,本文提出了一种基于其物理意义的无参考方案实现深度值的错误检测和质量评估。首先,深度相机技术在最近几年发展迅速,以微软Kinect为代表的RGB-D相机可快捷地获取深度图。然而,RGB-D相机并没有多设备协同机制,当多台RGB-D相机采集同一场景的深度时会发生干扰,导致深度图质量下降。本文深入理解了干扰机制,分析了干扰的影响,进而提出了一种消除干扰以恢复深度值的方案。分析表明,RGB-D相机具有一定的鲁棒性,使干扰引起深度值丢失而非深度值变化,故可用有效深度值恢复出丢失的深度信息。另外,考虑深度图在物体内部和边缘的性质差异,本文进一步提出了区域自适应的深度值恢复方案。该方案首先以纹理图为参考,将深度图划分为平滑干扰区域和边界干扰区域。对平滑干扰区域,在梯度域建立马尔科夫随机场(Markov random field, MRF)恢复出梯度,进而利用离散泊松方程(discrete Poisson equation, DPE)恢复深度值。对边界区域,在深度值空间内建立纹理引导的MRF模型求取深度值。该方案在保留物体内部平滑性的同时,也维持了物体之间尖锐的边缘,保留了场景的几何信息。其次,3DV和FVV等新的视频应用对深度图提出了较高的要求。高质量深度图需要精确、稠密,通过单帧即可获取以便适用于动态场景,并可扩展到多视点深度图采集;而现有的RGB-D相机并不能良好地满足该需求。因此,本文以现有结构光测距方法为基础,提出了一种混合方案来获取高质量深度图。该方案提出一种基于条带的多频率正弦波模板,该模板具有正弦波模板可携带相位信息的特点,还具有良好的局部唯一性,从而使深度图可通过混合方案来获取。具体地,每个解码条带内的模板为正弦波,可利用傅里叶变换轮廓测定法(Fourier transform profilimetry, FTP)计算包裹相位,然后基于深度图的局部平滑性和解码条带之间多频率的性质准确而快速地进行相位展开,并转化成视差和深度值。此外,对不满足平滑性的区域,本文进一步利用模板的局部唯一性,通过空域立体匹配修正其深度值。实验结果表明,本文提出的方案对深度值跳变和空间孤立物体等复杂场景均能准确获得深度值,并可结合复用技术获取多视点下的深度图。然后,深度图通过测量和计算获得,其中错误难以避免,需要进行检测;另一方面,无失真的参考深度图并不存在,所以常见的全参考和部分参考的质量评估途径对深度图并不适用。针对该问题,本文提出了一种无参考的深度图质量评估方案。该方案以深度图的物理意义为理论依据,重点考察深度图边缘的几何扭曲。考虑到参考图像缺失,该方案从纹理图和深度图的相关性出发,对深度边缘和纹理边缘进行匹配。具体来说,纹理图和深度图是场景的两种表现形式,故二者的边缘具有很强的相关性。本文采用了边缘的空间位置、方向和长度为特征建立边缘的相似性度量,并以此实现边缘匹配;同时方案还采用了基于边缘线段的匹配方法以提高鲁棒性。最后,基于两类边缘线段之间匹配的结果,可确定深度图中的坏点并量化深度图质量。实验结果表明,该方案能准确检测到深度图的边缘失真并确定坏点;实验表明方案中提出的无参考质量指标和现有的全参考指标高度相关,同时也和虚拟视点的质量紧密相关。该错误检测方案还可用于深度错误校正和质量增强等后续工作。最后,本文对以上研究内容和创新点进行了总结,并结合视频技术发展的趋势,展望了本文的后续工作。本文工作是对多视点深度图采集和无参考条件下深度图质量评估的探索,为3DV和FVV等以深度图为基础的视频系统应用提供了研究思路和方案。
其他文献
探讨肺栓塞溶栓治疗的病情观察和护理要点。肺血栓栓塞症目前已成为重要的医疗保健问题。据统计,在我国绝非少见。它是以血栓阻塞肺动脉系统为发病原因的一组疾病或临床综合
为了保证高炉料柱有良好的透气性,高炉槽下筛分系统必须运行可靠,维护简单,筛分效率高.振动筛的类型和布置形式多种多样,根据现场实际情况选择和比较非常重要,它们的好坏直接
致病基因数据库作为新技术时代的一种新兴权利载体,其中涉及诸多法律问题。文章分析了致病基因数据库的特殊法律属性及其所具有的著作权属性与隐私权属性的矛盾关系,并提出调
本文分析了中医药立法现状,认为虽然取得了一定的成就但仍然存在一些亟待解决的问题,并在综述域外国家对传统医药立法的基础上分析了对我国中医药立法的启示,最后提出了构建
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
迄今,二维图像/视频技术已经日趋成熟,但人们对于视觉感官的需求并不仅局限于平面化的图像,更加希望有着身临其境的体验。因此,立体电视技术,即3DTV,成为了计算机视觉中一个
目的:通过对慢性肾脏病患者开展药物重整服务,探讨临床药师在药学监护中的作用。方法:临床药师直接干预2016年2—7月我院肾内科慢性肾脏病住院患者的治疗,开展药物重整服务。
目的探讨帕金森病(PD)合并强迫症(OCD)患者纹状体和丘脑区出现的神经生化代谢改变,研究PD与OCD的病理生理基础。方法应用质子磁共振波谱技术(1H-MRS)对23例PD合并OCD患者和24例PD不