基于矩阵分解的跨模态检索研究

来源 :山东师范大学 | 被引量 : 2次 | 上传用户:yu23344
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着PC互联网技术、社交网络以及移动互联网等信息技术的飞速发展,在信息交流和媒体传播的网络空间中涌现出大量的多模态数据,如:图像、文本、音频、视频等。如何有效地对这些多模态数据进行语义相关分析和相似性度量以及实现模态之间的相互匹配已经成为人工智能领域又一个新的研究热点。多模态数据虽然具有类似的语义,但是通常具有不同的物理意义、不同的维度、不同的概率分布,给模态之间的匹配带来很大的挑战。低秩矩阵近似,作为一种常用的机器学习方法,已经成功的应用于数据的降维以及特征表示上。其中,非负矩阵分解(Non-negative Matrix Factorisation,简称NMF)由于其提取的因子的非负约束可以增强物理的解释性,受到了越来越多的关注。NMF除了可以显著降低数据维数,提高解的鲁棒性之外,还可以利用所学习的字典充分表示数据的局部和内在结构。借助NMF的强学习能力,目前已经有很多的NMF改进版本成功的应用于跨模态检索当中。另外,哈希技术由于其较低的存储要求和令人叹服的检索效率,也已经成功的应用于跨模态检索当中。因此,本文以跨模态匹配为目标,借助矩阵分解技术对模态相似搜索进行了深入研究,主要的研究成果如下:1.设计了一种基于语义信息的不平衡协同矩阵分解模型(Semantic Convex Matrix Factorization,简称SCMF)。主体思想是对模态维度较高的数据进行经典的非负矩阵分解,提取一个中间水平的特征,而不是直接提取高层的语义特征,以防止有用的特征信息的丢失;而对于模态维度较低的数据,结合语义信息直接提取该模态的高层语义特征;然后将提取的高维度模态中间水平的特征再映射到共同的语义空间中,以实现不同模态之间的相似性度量,达到较好的跨模态匹配效果。2.提出了一种带有多模态图正则项的协同平滑矩阵分解哈希框架(Multi-modal graph regularized Smooth matrix Factorization Hashing,简称MSFH)。在协同矩阵分解模型中插入由参数控制的平滑矩阵来实现各个模态的字典以及所提取的共同特征的稀疏化;并且在无监督学习的情况下,利用对称非负矩阵分解重构了各个模态之间的相似图,来提高模态匹配的准确性;然后利用共同学习的哈希函数将所提取的共同特征进行二值化,从而快速的实现模态间的相似搜索。3.提出了一种离散的协同矩阵分解哈希模型(Discrete Matrix Factorization Hashing,简称DMFH)。该模型基于各个模态的几何结构信息含有更强的语义判别信息这一优势,对各个模态的近邻相似图实施矩阵分解,直接提取各个模态离散的共同哈希特征表示,克服了由哈希松弛所带来的量化损失;并借助Stiefel流形设计一个简易新颖的更新算法,以一种封闭的形式直接学习哈希编码书,在降低了计算复杂度的同时也提升了模态间的相似搜索的精度。4.针对DMFH模型学习缺少语义标签这一缺陷,将DMFH扩展成语义增强的离散协同矩阵分解哈希模型(Semantic enhanced Discrete Matrix Factorization Hashing,简称SDMFH)。SDMFH首先利用语义标签构建模态间的相似矩阵,并对该相似矩阵进行矩阵分解来提取多个模态的共同离散哈希表示,然后将语义标签回归到所提取的离散哈希书上,从而加强所学习的离散哈希书的判别能力。在已有的公共数据集上的实验结果验证了该算法的有效性。
其他文献
<正>最近,经自治区人民政府同意,西部陆海新通道建设指挥部办公室印发《西部陆海新通道广西现代物流建设实施方案(2019-2020年)》,并发出通知,要求各有关单位认真组织实施。
煤城是鸡西自身城市化演进中的一个代表性阶段,延长产业链是鸡西产业结构合理化、经济脱困,最终实现产业替代的战略选择.鸡西延长产业链应选择"依托资源、科技先导、深度转化
杜甫是我国唐朝时期伟大的现实主义诗人,被人尊称为"诗圣",他的诗博采众长,全面继承了自《诗经》以来我国诗歌创作的优秀传统,其诗作已经被数十位中外翻译家译为英文。本文以
针对传统基于插值多项式的秘密分享方案,需要复杂的多项式运算,当涉及的数据比较大时,运算效率特别低的问题,提出一种结合数据分块方法以及仅需要在GF(2)上的异或运算的秘密分
目前我国中学英语教学处在稳步发展的时期,取得了很大的进展。但在农村英语教学这一板块,还面临着许多问题。急需解决。
在简要回顾了转抗虫基因植物研究和利用的现状后,指出转基因植物利用中可能出现的问题主要有转基因植物的遗传变异、基因逃逸、反目标效应和对生物多样性与生态系统过程的不
校园暴力成为教育一大伤痛,它的存在对个人、社会产生了极坏的影响,本文试图通过具体的案例列举,分析校园暴力产生的心理因素,并试图提出防止校园暴力发生的教育对策.
目的:探讨抑郁症昼夜节律的特征与细胞因子浓度的关系。方法:对符合美国精神障碍诊断和统计手册第4版重性抑郁发作诊断标准的49例患者(抑郁症组)和38名健康人(对照组),采用酶联免疫
澳大利亚教育研究理事会发布的报道指出,在澳大利亚的中学,新教师任教学科专业不对口情况非常突出。专业不对口指的是在大学期间,该教师没有具体地学习所教科目的专业知识,也没有
野生杨树菇富含氨基酸和维生素,香气浓郁,味道鲜美,深受广大消费者欢迎,鲜品售价15~20元/kg,是具有较大开发潜力的食用菌新品种。