词语级别的歧义性消解方法研究

来源 :上海财经大学 | 被引量 : 0次 | 上传用户:luozd
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
语言的歧义性是自然语言的一个典型特征,在自然语言的词语、句子结构、及段落篇章中普遍存在,这种歧义导致了自然语言处理任务的复杂性。如何消除自然语言文本中的歧义,一直以来是自然语言处理领域的难题之一。本文聚焦于自然语言文本中词语级别的歧义性消解(即词义消歧)的方法研究,在对现有词义消歧方法进行深入分析的基础上,从知识库利用和模型设计两方面尝试对现有方法进行改进;采用标准词义消歧数据集,在英文全词消歧、英文样本词消歧、英文少样本消歧、英文零样本消歧、跨语言词义消歧等各类问题场景下,提出有效的消歧方法。同时,本文还探索了词义消歧在下游任务中的应用。本文主要内容与创新性工作包括:1)提出结合两类基于知识库的词义消歧方法的混合消歧方法。该方法首先依赖于领域信息召回和词义关系,学习知识增强的词义表示,并构建基于相似度的消歧方法,然后利用计算得到的词义相似度,对基于图的消歧方法中词义节点的重要性进行初始化,再将两类消歧方法获得的词义重要性进行加权。该方法能充分利用词义知识库中的词义知识。在标准数据集上的实验结果表明,该方法与以往基于知识库的最好词义消歧方法比较,F1值表现相对提升2.8%,性能提升幅度相比前人有显著优势。2)提出基于消歧文档的上下文扩展方法以及基于词义关系和词义类别的二次消歧方法。该方法可以同时结合词义知识库和词义标注语料,以预训练语言模型作为特征抽取器,利用知识库和标注语料中的词义知识学习词义表示;利用消歧文档中的上下文信息学习待消歧词表示。在此基础上,提出基于词义关系和词义类别的二次消歧方法。实验结果表明,该方法能同时在基于知识库和有监督的两类消歧方法中,取得词义消歧的最佳(state-of-the-art)性能,与前人最好方法比较,F1值相对提升分别为6.7%和0.8%。同时,该方法还在样本词消歧、少样本消歧和零样本消歧取得最佳性能,与前人最好方法比较,F1值相对提升分别为0.8%、9.7%、15.2%。3)提出在有监督词义消歧框架中对上下文中的词义关系进行显式建模的消歧方法。该方法在有监督词义消歧框架中,从词语和词义两个层级对上下文进行建模,以便学习单词(词义)之间的相互关联性。该方法摆脱了对专家定义的词义关系的依赖,仅仅从标注语料中学习词义间关系,具有更好的跨语言迁移性。实验结果表明,该消歧框架在使用更少词义相关资源的前提下,在英文全词消歧、英文少样本消歧、英文零样本消歧、跨语言词义消歧数据集中取得显著的性能提升,与前人最好方法比较,F1值相对提升分别为3.7%、5.4%、5.2%、1.2%。4)提出一种部分词消歧方法,并将消歧获得的词义信息嵌入至文本分类模型中进行有监督训练。该方法聚焦于词义消歧系统在具体下游任务中的快速部署,首先利用词义类别信息,设计部分词消歧法,然后将词义信息作为额外的语义信息融入到文本分类模型当中,以此增强模型的语义建模能力。实验结果表明,与基线系统比较,增加了消歧过程及词义信息注入的文本分类框架,在五个文本分类数据集上,均取得了性能提升。
其他文献
随着政策放开和市场的完善,大力发展通用航空已成为新时代、新形势下国家做出的重要决策部署,从应急救援体系建设到消费服务升级,从供给侧结构性改革到扩大需求引领,通用航空产业始终是重点关注领域。然而作为通用航空产业的核心,我国通用航空制造业特别是通用飞机自主研发制造能力欠缺,通过并购具有国际领先水平的通用航空制造项目,并在此基础上改进升级,是通用航空制造业实现跨越式发展的重要途径。因此,科学地评估通用航
学位
2008年11月1日,中本聪提出比特币(Bitcoin)的概念,本质上比特币为加密算法货币。中本聪将其设定为总量一定(总量为2100万枚)、产出一定(每10分钟产出50个比特币、每四年减半),允许自由流动的虚拟货币。从2009年出现以来,比特币总共经历了三次减半,分别是2012年,2016年以及2020年,从最初每10分钟产出50枚比特币到目前每10分钟6.25枚。比特币体系是通过分布式记账来实现
学位
投资组合选择是现代投资理论研究的一个重要决策分支,旨在确定最佳的资产配置策略以满足投资者的投资目标。然而,证券市场是一个信息高度密集和复杂的系统,且面临各种不确定性,这对投资决策与管理提出了更高的要求,也进一步推动了对不确定环境下的投资组合进行深入研究的需求。此外,行为金融是过去几十年来对有效市场假说和投资者绝对理性提出强烈挑战的领域之一,该学科强调了投资者的行为特征在投资决策中的重要地位。有效地
学位
乡村振兴是推动中国式现代化建设的重大战略,随着乡村振兴战略的实施,民宿旅游蓬勃发展,民宿旅游在促进农村一二三产业融合、拉动农民在乡就业、巩固脱贫成果等方面发挥了重要作用,已成为乡村振兴的先行实践者。乡村振兴战略的实施为民宿旅游的发展带来了前所未有的新机遇,民宿旅游的发展振兴了乡村文化、优化了乡村生态环境、让人民过上了美好生活。阳朔民宿发展起步较早,经历了萌芽、发展、成熟三个阶段,主人参与、主客共享
学位
<正> 三十九岁的意大利裔美国人弗兰克·塞诺,每星期有十回须在洗衣机前洗濯脏衣物。墙上那张彩色肖像里,她妻子的祖父母似乎正以鄙夷的眼光盯着他。说实在的,就连他自己的父亲(一位远居故国的意大利人),也不会对他表示同意的。塞诺自己也说:“我父亲会说,‘你还像个什么样的男人?’他会责怪我让自己被老婆管起来了。”本来,塞诺原是按照老传统的方式生活的。他在履带拖拉机公司里当制图员,八年来一直都把家务活全交给
期刊
习近平总书记2021年4月视察广西期间,对桂林提出了“打造世界级旅游城市”的新要求和新使命。民宿作为旅游者深度体验当地特色文化和民俗风情的重要窗口和渠道,构成了建设桂林世界级旅游城市的重要发展内核。阳朔GGS精品民宿位于骥马村委矮山门村,是由承载厚重历史土泥巴砖房古建筑和现代中式禅修一体运营的遇龙河畔特色民宿。疫情期间通过开通抖音账号和微信视频号从传统营销向新媒体营销转型,实现了疫情期间的保值增收
学位
目的:尝试通过对血液标本瑞氏染色后进行红细胞形态观察,研究红细胞的异常形态与地中海贫血疾病的关联性。方法:选择2020年5月至2021年6月茂名地区人群静脉血液标本样品共315份,205例地中海贫血基因携带者(地中海贫血组)以及110例同期接受常规体检的非地贫基因携带人群(健康组)根据样品来源进行分组;分别进行红细胞形态学检查和地中海贫血基因检测,比较地中海贫血组与健康组血细胞形态异常情况,并比较
期刊
表面合成是最近十几年发展起来的新的合成方法,通过将预先设计好的前驱体分子沉积到基底表面并通过加热等方式诱导表面化学反应,研究人员可以合成出具有原子级精确的,传统的化学合成难以得到的化学结构。目前表面化学仍处于蓬勃发展时期,相对于传统的溶液合成,表面合成目前仅实现了极少数已知的化学反应,因而探索各种化学官能团在表面合成中的反应及其机理对于纳米、化学结构的合成和开发至关重要。一般来说,合成的各种材料都
学位
做市商通过不断地报价买卖证券来向市场提供流动性,并通过买卖价差实现一定利润。当市场价格往不利方向变动时,持有的证券库存会使做市商暴露于库存风险,最终导致大额亏损。现实中,国内做市商盈利的头部效应非常显著,头部做市商凭借在技术和投研上的巨大优势赚取了该子行业百分之九十以上的利润,而普通做市商只能依靠交易所的手续费返还弥补交易亏损。同时技术和投研上的壁垒使得普通做市商很难在短期缩小与头部做市商的差距。
学位
报纸