基于单张图像的三维模型检索研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:a370412412
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
跨模态检索问题指的是给定某一形式的数据,在另一形式的数据中检索到与其语义相似的样本,例如在常用搜索引擎如百度、谷歌等中,用户可以输入文字来检索相关的网页、图像或视频等。本文主要关注于基于单张图像的三维物体模型检索问题,即给定一张包含了三维物体内容的图像,从三维模型数据库中检索到与图像所包含物体形状相似的模型。现有的大多数相关工作关注于在数据库中检索到与图像属于相同语义类别的物体,不论具体形状是否相似,而我们希望能够检索到具体形状相似的物体。对于这一问题,我们提出了一种新颖且有效的基于三维混合表达的联合嵌入方法,用于从三维模型数据库中检索到与图像所包含物体形状相似的模型。我们所提出的基于深度学习的方法包含两个训练阶段,在第一阶段,我们基于三维物体的八叉树与多视图这两种不同的表达形式,通过深度度量学习获得预训练的3D特征空间,该空间仅与三维模型的几何形状相关,不会受到真实图像中的背景、颜色、纹理等干扰因素的影响,在真实图像与三维模型标注训练数据不充分时具有明显优势;在第二阶段,为了弥补图像与三维模型的语义鸿沟,我们引入特征变换层对预训练所得三维空间进行调整,以及图像编码器编码图像,再次使用深度度量学习方法将预训练的三维特征与真实图像联合嵌入到一个联合特征空间中。在测试阶段,三维模型数据库中的每个模型都将被表达为八叉树与多视图,输入到第一阶段的编码器与第二阶段的三维变换层中,最终得到三维数据特征空间,而给定的真实图像查询将直接通过第二阶段的图像编码器获取特征,然后在三维特征数据库中通过最近邻搜索得到与其相似的三维模型。我们方法的第一阶段利用了三维混合表达,比使用单一表达获得了更具有分辨力的三维预训练空间,更加有利于第二阶段三维特征与真实图像的联合嵌入。我们在常用数据集ObjectNet3D、Pascal3D+以及一个手工标定的椅子测试集上进行了检索实验,验证了我们两阶段联合嵌入方法的有效性。数值结果显示我们方法从单张图像检索三维模型的准确率超过现有的最先进的方法,并且由于训练时间成本较低,更有利于未来扩展到大型数据集上。
其他文献
随着中国经济的高速发展和城市化进程的加快,我国的建设发展,由高效率转变为高质量的发展,由对物的追求转变为对质的追求。其中城市高层综合体的活力对所在城市及城市中的每一个人息息相关,城市高层综合体不仅体现了建筑自身的价值和形象,而且是该城市文化背景、自然条件,或者生活方式的反应,并使城市呈现出不同的空间形式、建筑风格和精神面貌。本文以如何构建富有活力的城市高层综合体为研究课题,首先从国内外学者对“活力
随着移动通信技术的飞速发展以及智能终端的快速普及,第五代移动通信(The5th Generation Mobile Communication,5G)系统应运而生。物理上行控制信道(Physical Uplink Control
苯并二氢呋喃类化合物是常见的药物组成部分,且广泛存在于天然产物结构中,并且,它们还在有机合成中起着十分重要的作用,是很多有机合成过程中的中间体。因此,苯并二氢呋喃类
晶体产品由于晶型不同而存在诸多理化性质的差异,因此,设计合理的结晶控制过程以确保目标晶型的稳定是晶体产品制造过程中的重要目标。乙交酯是一种重要的用于聚合形成可降解
相机标定是计算机视觉中获取三维测度信息的关键步骤,圆形模式平面标靶是最常见的一种标定工具,具有制造简单且对图像质量要求较低等优点。唯一的不足是由于镜头畸变和透视偏
放射治疗是目前治疗肿瘤的主要手段之一,放射治疗过程的核心部分是治疗计划系统的应用。剂量计算是治疗计划系统中的关键,其准确性直接影响到患者治疗,进而影响患者健康。本
舰船在服役期间会不可避免的受到水下爆炸冲击载荷的作用,导致船体结构和舰载设备产生冲击破坏,而水下爆炸载荷作用下舰船以前三阶低频总振动为主,因此低频冲击环境的准确性对舰载设备抗冲击研究具有重要意义。通过对实测冲击响应数据分析,发现其应变响应对低频总振动具有较高的准确性,因此提出采用应变响应对低频冲击环境进行修正方法。本文采用模态叠加法对水下爆炸载荷作用下总振动位移响应进行计算分析,根据弹性力学分析加
司法解释出台前,由于法律规定的缺失,二审中原审原告申请撤回起诉的相关问题,不仅导致司法实践中处理方式的分歧,也引发法学理论界的争论。司法解释出台后,虽然为处理相关争
舰载设备良好的抗冲击性能对保障舰船安全性有重要意义,而大型浮动冲击平台作为舰载设备抗冲击研究的重要试验系统,有必要分析其冲击动力特性,以掌握平台具备的考核能力。鉴于当前浮台的结构形式及考核范围有限,考虑设计一种水下附体辅助结构调节平台冲击环境,改变传统平台横垂向冲击环境较大的差异。通过建立对应的数值计算模型,以实船试验和数值方法探讨水下附体的作用,校核仿真与试验的冲击相似性,完善大型浮动冲击平台的
三江源地区的畜牧业是该区域的支柱产业,牦牛养殖是产业发展不可或缺的部分。随着养殖规模的扩大与技术的发展,牦牛的养殖与研究取得了不菲的成绩,但仍然面临着成本高,收益差