K-SimCSE:融入领域知识的文本检索研究

来源 :华中师范大学 | 被引量 : 0次 | 上传用户:mustang2001
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
文本检索的主要任务是从海量语料中匹配与查询相关的文档,通常返回的是相关的候选文档集合或是按照语义相关性排序的候选文档序列。为了得到语义相关性,通常是将查询和文档集合映射到相同的语义空间中,得到蕴含语义的向量。然后用这些向量之间的距离来表示语义相似度。这便是文本检索中的文本表示和语义相关性计算。然而这种方式存在两个不足:一是文本的语义表示需要更多领域相关的信息才能更加精确地推定;二是这种仅考虑“查询-候选文档”计算方式忽略了“候选文档-候选文档”之间的语义相关性。候选结果之间的相关性可能会非常小,从而导致检索效果不理想。本文在生物教学领域的检索场景下,对上述两个问题进行了深入研究。工作包含了 1)针对特定领域的文本相似度任务,设计了融入外部知识的文本表示方法;2)在生物教学领域测试了该方法的性能;3)用聚类的方法描述了该方法所引起的语义空间的变化。主要成果如下:1)本文提出了一种被称为K-SimCSE的文本表示方法。它将文本与知识有机融合成实体树结构,同时利用实体树的可见矩阵来修正SimCSE模型中自注意力机制的计算方式,从而完成了文本表示从通用领域到特殊领域的迁移。在特定领域的文本检索任务中,这种修正的文本表示优化了候选文档结果集,并使K-SimCSE在MAP指标上相比SimCSE提升了 4.1%;2)本文通过聚类分析实验从文本在语义空间中的分布特征、聚类簇的变化情况和文本表示的迁移现象三个层次描述了知识注入的影响。知识注入可以将通用领域的文本表示向特定领域迁移,得到更适合该领域的文本表示。这一过程没有破坏文本的语义结构,也没有使语义产生过大的偏离。它进一步考虑了文本知识的相关性,使语义相关的文档更好地聚集在一起,是对语义表示的修正。
其他文献
“三农”问题的发展是一个关系国计民生的重大社会难题,加强推进农村建设现代化建设、促进现代农业的发展、确保广大农民就业和增收一直是我们党和国家的一项重点工作任务和重点。涉农贷款监督管理作为农村金融的重要环节,是加快推进农村金融发展的重要来源。近年来,我国涉农贷款总量逐年稳步增加,支农效果明显,然而由于农业特殊性,涉农贷款业务本身具有高风险、难管理等特征。农业银行惠州分行作为惠州市农村金融发展的重要力
为了保证工业生产过程的安全稳定运行,采取合理的故障诊断具有十分重要的意义和价值。因此,工业设备故障诊断一直是工业领域的研究热点。该文首先阐述了故障诊断的意义,并指出基于声信号进行故障诊断的可行性和优势。然后,根据有无深度学习的参与,将基于声信号的故障诊断方法分为基于传统和基于深度学习两种类型;同时,分别梳理了两类故障诊断方法的流程与思路,阐述并归纳了两类方法中典型算法的原理、优点、局限性、主要方法
随着我国经济发展和人们生活质量不断提高,体育事业也逐渐深入到人们的生产生活。如今城市社会体育已经成为我国社会和谐、居民健康的重要标志之一,在当代社会中起到了促进和发展的作用。本文通过阐述当前我国城市社会体育改革的现状及改革中出现的问题进行探究,并作出分析和对策为我国城市社会体育管理体制的规划和发展作出贡献。
针对滚动轴承早期故障信号特征难以准确提取与分离问题,提出参数自适应最大2阶循环平稳盲解卷积(CYCBD)的滚动轴承复合故障特征提取方法。基于不同的故障类型,以谐波能量比指标为适应度函数,采用麻雀搜索算法自适应获取解卷积的最佳滤波器长度和循环频率,利用得到的最佳参数组合对原信号中的故障成分逐一提取,并对解卷积后的信号开展包络谱分析,实现轴承复合故障的诊断。分析结果表明:所提出方法能够在强噪声背景下,
目的:探讨院内老年慢病患者脂肪、肌肉及骨骼等人体成分与跌倒的相关性,以进一步采取干预措施预防跌倒的发生,减少跌倒所致的不良预后,改善慢病患者生活质量。方法:回顾性收集在苏州大学附属苏州九院老年医学科住院的128例60岁以上慢病患者人口学资料、慢病情况,测量身高、体重,计算体重指数(body mass index,BMI),采集血常规、血糖、白蛋白、血脂等生化指标。采用双能X线(dual energ
代数公式在高中数学的学习中占据了重要地位,但国内对于数学公式的研究多集中于宏观层面,且对公式学习的定量分析较少.本研究以莱什和兰多对于概念理解评价的框架为基础,从公式的理解、联结与应用三个维度出发,建立高中生代数公式学习学业成就评价模型,研究的具体问题为:1.高中生对于三角函数诱导公式掌握情况如何(包括理解、联结、应用)?2.高中生在三角函数诱导公式学习中有关情况的相关性如何?3.高中生对三角函数
改革开放以来,我国经济经历飞速的发展,人民生活水平也发生了翻天覆地地变化。人民群众对美好生活的需求也对农业生产的质量提出了新的要求。“十三五”以后,产业转型和绿色发展成为了生猪行业的主题。受到非洲猪瘟和新冠疫情的影响,猪肉价格跌宕起伏,养猪企业的现状和发展也成为人们热议的话题。本文以生猪养殖行业龙头企业牧原食品股份有限公司(股票代码002741.SZ)为研究对象,分析其财务状况,对企业和行业的发展
目的:探究个体化饮食管理和心理干预对妊娠期高血压(HDCP)患者妊娠结局的影响。方法:选择2015年1—2020年6月200例就诊的HDCP患者为研究对象,随机均分为两组,其中采取常规护理的为对照组,在对照组基础上联合个体化饮食管理和心理干预的为观察组,比较两组干预效果。结果:观察组干预后血压水平及24 h蛋白尿水平均低于对照组(P<0.05);观察组妊娠期并发症发生率为8.00%低于对照组的18
<正>巨然钟陵人。早年在本地出家,受业于江宁开元寺。南唐后主李煜降宋,随之入汴京,居于开宝寺,投谒在位,声誉鹊起,其山水画创作成为当时文人雅士乐于收藏和评论吟咏的对象,不少官僚贵族亦以其画装堂饰壁。巨然是否曾随董源学画,文献上没有明确记载,但一直被认为得董源真传。从其传世的《万壑松风图》《层岩丛树图》《秋山问道图》等作品中,不难看到,他继承发展了披麻皴、攒簇点之类的董源形式技法,轻岚淡墨、烟云流润
期刊