基于场景图生成的半监督跨模态检索研究

来源 :重庆大学 | 被引量 : 0次 | 上传用户:donna1105
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
区别于图像检索这样仅使用单一模态数据进行信息检索的方法,跨模态检索要求不同模态的数据之间可以相互检索,可以满足现实世界中针对大量多样化数据的检索需求。然而,不同模态数据之间特征分布不一致,这使得跨模态检索面临着“异构鸿沟”的挑战,同时,现有的跨模态数据集中不同类别的样本数量分布不均以及样本缺乏充足的语义标注信息的问题也会对模型的检索精度造成影响。本文针对图像和文本开展跨模态检索研究,针对数据集上类别样本数量分布不均、语义标注信息不足和公共空间中相似样本与不相似样本易于混淆的问题,分别提出了对应的解决方法。本文主要内容与创新如下:(1)提出一种缓解长尾分布的场景图生成方法。通过对象类别重分组消除长尾分布对对象识别的影响,根据特征流动方向将场景图生成过程抽象为有向无环图,在对象识别和关系检测中促进不同模态数据间的交互,从而令模型提取跨模态数据中潜藏的语义相关性。(2)提出一种基于场景图的公共嵌入学习方法。通过模型迁移将跨模态数据重构为场景图表示,并将对象识别与关系检测期间得到的结果作为辅助的语义信息,提取图像与文本场景图的嵌入表示,通过跨模态特征分布对齐,在保留高层语义关联的同时将不同模态的特征映射到公共空间。(3)提出一种基于聚类的与模态无关约束方法。利用聚类方法对公共空间中的样本进行初步分类,通过与模态无关约束将簇集中相似样本拉近,并将不相似样本推远,进而加快簇集的收拢,同时进一步增强簇集内不同模态样本间的语义相关性。(4)在上述方法的基础上,本文提出一种基于场景图生成的半监督跨模态检索方法(SGGSCR,Scene Graph Generation Based Semi-supervised Cross-modal Retrieval),在MS COCO、Flickr 30K和Pascal Sentences三个跨模态检索领域广泛使用的数据集上,与8个经典方法进行对比,并设计了多组自分析实验。综合以上实验结果表明SGGSCR方法提升了检索精度的同时,还能利用语义关联使得与查询相关的结果占据更靠前的排序位置,体现了SGGSCR方法的有效性与优越性。
其他文献
<正>前不久,高平市纪委监委向全市900余名市管干部每人赠送一套廉政书籍,这是3月份全市开展的“整顿干部作风优化营商环境”专题警示教育月活动中为大家送上的一份珍贵厚礼。此套赠书共有五册,是市纪委监委立足一体推进“三不”,加强干部“不能腐”约束、“不想腐”教育,充分酝酿、精心选购的。其中《中国共产党纪律处分条例》《公职人员政务处分法》《监察法实施条例》为党纪法规书籍,这三本书均是党员干部必须遵守的最
期刊
肝细胞癌(hepatocellular carcinoma,HCC)是一种具有高发生率和高死亡率的原发性肝癌,主要发生于肝硬化肝脏中。肝细胞癌的发生与肝脏组织的力学性质(固体应力、间质液压力和细胞外基质刚度)变化密切相关。这些力持续作用于肝脏组织内的细胞,并影响它们的生物学行为。研究发现,力学作用能导致细胞DNA损伤,如果此损伤不加以修复,会影响细胞基因组的稳定性,增加正常细胞癌变的几率。但肝脏病
学位
报纸
CuCrZr铜合金因兼具高导热与导电性、高强度与高延展性等一系列优异特性,被广泛应用于承载、导热或导电等多功能需求的高性能零部件,如航空航天发动机的燃烧室关键部件、模具中的散热装置与高速铁路的电力接触线等。功能集成的部件受限于传统制造方法(如减材制造、铸造与锻造等)的弊端,难以满足航空航天、轨道交通等领域轻量化、高性能的严苛要求。选区激光熔化(Selective Laser Melting,SLM
学位
酯基绝缘油具有高燃点、绿色环保的优点,但天然酯基绝缘油存在抗氧化性能较差、倾点较高的问题,限制了其在电力变压器中的应用和推广。季戊四醇酯绝缘油可提升酯基绝缘油的抗氧化性能,但仍存在倾点较高的问题。本文分析了分子结构对季戊四醇酯倾点的影响规律,研究了季戊四醇酯的高效合成与纯化降介损方法,获得了兼顾理化和介电性能的低倾点季戊四醇酯绝缘油。本文的主要内容包括:(1)提出了降低季戊四醇酯倾点的分子调控方法
学位
课程思政与思政课程的协同育人是以高校已有的学科体系与学科资源为基础的。以工科为主的高校的学科体系和人才培养具有鲜明的跨学科特色,这就要求其课程思政与思政课程的协同建设要从课程层次提升至学科层次。跨学科视域下,提取理工科课程、人文社会科学课程与思政课程的教学交叉点和接驳处,以课堂为跨学科的实践场域,通过课程孵化、课程定制和课研嵌入等模式,有助于实现课程思政与思政课程的跨学科协同建设。
期刊
复合绝缘子抗污闪性能好,被广泛应用于沿海重污秽区,但复合绝缘子质量轻且弹性模量较小,在台风荷载的作用下容易产生风偏弯曲现象引起绝缘间隙变化,进而发生风偏闪络事故。目前,针对绝缘子风偏的规程计算中忽略了复合绝缘子的弯曲特性和动态摆动特性。为弄清台风环境下考虑复合绝缘子的弯曲特性和台风的脉动特性引起的绝缘间隙变化,本文建立了悬垂绝缘子和跳线绝缘子非刚性弯曲有限元模型,分析了两种体系下复合绝缘子的风偏弯
学位
建筑业作为我国的支柱性产业之一,对国民经济的持续发展起到了重要的支撑和保障作用。然而,建筑业在发展过程中存在着生产效率不高、管理方式粗放、劳动力短缺、信息化水平低、环境污染较大、安全问题较多等新老问题,不利于行业的持续健康发展。随着信息技术的飞速发展,信息化逐渐成为助推经济社会发展的强劲动力之一,推动着产业革命的进行。建筑业能否抓住我国信息化迅速发展带来的历史性机遇,乘势推动建筑业产业升级,成为我
学位
随着经济的不断发展,市场竞争也越来越激烈,企业为了应对复杂的市场环境和各种不确定的风险,应制定适合自身发展的内部控制策略,采取有效的措施对企业的财务资金进行内部控制。往来款管理对于改善企业生产运营环境、调整企业资产负责表中的资本结构与债务结构起着举足轻重的作用,对改善企业内部管理环境和提高企业内部控制水平也有着非常重要的影响。同时,它也是企业资金管理非常重要的构成内容,但往往容易被管理者们忽视。因
学位
近年来,综合能源系统(integrated energy system,IES)持续发展,继电-气、电-热联合系统之后,由电力与输配水系统耦合形成的电-水联合系统(integrated electricity-water system,IEWS)以及由此产生的电-水协同规划与运行问题逐渐成为IES的重要研究领域。另一方面,随着5G通信的规模化发展,5G基站的高耗能问题日益凸显,如何通过基站能量管理
学位