【摘 要】
:
关系抽取作为信息抽取领域的重要研究课题,也是自然语言处理的任务之一。为了避免海量数据标记带来的人力和时间的消耗,远程监督关系抽取被提出来从非常大的语料库中提取事实关系。远程监督关系抽取假设如果在知识库中的两个实体存在某种关系,那么所有包含这两个实体的句子都表达了这种关系。这种强制性的假设会引入错误的标记,导致关系抽取性能的降低。
目前主流的远程监督关系抽取方法通常采用深度学习的方式来进行特征提取。在此基础上,通过各种注意力机制,模型去噪,融合外部信息,关注重叠关系等方式改进模型,提升整体模型识别
论文部分内容阅读
关系抽取作为信息抽取领域的重要研究课题,也是自然语言处理的任务之一。为了避免海量数据标记带来的人力和时间的消耗,远程监督关系抽取被提出来从非常大的语料库中提取事实关系。远程监督关系抽取假设如果在知识库中的两个实体存在某种关系,那么所有包含这两个实体的句子都表达了这种关系。这种强制性的假设会引入错误的标记,导致关系抽取性能的降低。
目前主流的远程监督关系抽取方法通常采用深度学习的方式来进行特征提取。在此基础上,通过各种注意力机制,模型去噪,融合外部信息,关注重叠关系等方式改进模型,提升整体模型识别噪音的能力。也有工作从句子结构本身出发,在提取特征这一步通过降低句子内部噪音来提升整体模型性能。但目前的远程监督关系抽取在特征提取时仍旧没有充分考虑实体对在句子结构中的影响,这对特征提取时所能利用的文本语义和结构信息有限。另外,由于远程监督导致的标签噪音问题,因此需要在关系抽取时考虑模型的鲁棒性。
针对实体对在句子中的结构信息没有被充分利用的问题,本文提出了融合句子分段特征的远程监督关系抽取模型。该模型将序列特征分段,采用平均池化的方式得到句子分段后的全局信息并将其融合到所属分段中,增强了单词的局部表示。这种融合方式考虑了实体对在句子中的结构信息,增强了句子分段后的上下文特征表示,丰富了文本中序列特征的结构信息和其他潜在信息。
针对远程监督带来的噪音数据影响模型性能的问题,本文提出了引入迁移学习的远程监督关系抽取模型。由于随机初始化参数的方式影响模型训练的效率和效果,该模型利用迁移学习从源任务获取粗粒度的划分关系的先验知识,将共享参数初始化给目标任务,提升目标任务细粒度地划分关系类型的性能,增强了模型在低质量语料库中关系分类的鲁棒性。
本文在一个广泛使用的数据集NYT上进行实验,实验的结果表明,上述两种模型在三种常用评价指标上均优于基线模型,表现结果更好。
其他文献
【摘要】英语和计算机一样,在未来的工作中一步也离不了,它是一种工具。学习英语不仅是我国课程标准的要求,更重要的是社会的要求,时代的要求。英语和我们的生活息息相关。要适应时代的要求,就必须学好英语,我们不学不行。【关键词】农村 英语 教学 探究 英语作为一种拼音文字,理应被容易学习和掌握,但事实却相反,在农村初中,一少部分学生能够比较顺利地按课程标准的要求去学习和运用,但总有一部分学生越学却越费劲
【摘要】经济全球化加深了世界各国之间的联系,英语成为不同民族、不同语种之间进行交流合作的通用语言。我国对英语的教育格外重视,小学三年级就开设了英语课程,英语更是学生学习的三大主科之一。读和写是英语教学的一个方面,更重要的是英语口语的交际能力。英语的言语交际能力一直是我国教学的重点,但取得的效果并不明显,需要教育工作者进行深入的调查研究,找出问题的所在。 【关键词】初中学生 英语言语交际能力 培养
当下,很多老师都为英语课堂沉闷、学生的积极性不高而苦恼。究其原因,笔者认为“以高考为核心的考试文化遮蔽了教育的原生性目的”,增加了学生学习的功利性思想。由于学科特点的原因,高考英语成绩得高分不易,考分差距也不是很大,高中英语学习在学生心理的地位堪忧。如何改变这一现状,让学生重新热爱这门学科,这是摆在当前英语教学工作者面前的一个难题。要解决它,需要从多方面努力。笔者结合教学实践,从激活英语课堂教学策
智能电网技术的发展减少了能源消耗及对环境的影响。智能电网的电力负荷监测技术实现了对用户用电情况的远程实时监控,其中的非侵入式负荷监测(NILM)技术可以只通过分析电力总入口处的电力负荷数据就能实现对用电系统内部各用电设备的运行状态和电能消耗情况的自动监测,对于智能电网的经济运行和调度管理有着重要意义。
利用不断发展的隐马尔可夫模型(HMM)及其拓展模型解决NILM中的负荷分解问题已成为NILM的研究热点。其基本思路是将一个NILM问题可以表述为HMM的解码问题,通过利用HMM中解码算法,对于获取
会计人员的国际化是会计人才发展的方向。《会计英语》课程在诸多高职院校开设,但由于教学理念的落后,教学方法的陈旧,传统的教学已不适合高职教学工学结合的要求。本研究将在教学实践的基础上,针对《会计英语》教学实施现状和存在的问题,探讨工学结合模式下基于职业活动、岗位要求的教学内容、教学手段和方法、实训教学、教学评价等内容的创新。 一、《会计英语》教学现状调查 通过调查发现,目前所选用的会计英语教材有
【摘要】初中英语教学不应该仅仅局限于语言知识的教导,还要挖掘英语中蕴含的文化,以文化教学的方式去教导学生学习英语,了解西方文化。本文分析初中英语文化教学的现状,提出了几点相关教学的策略。 【关键词】初中英语 文化教学 语言 随着科技的发展,国际化、世界村等概念的不断普及,语言已经成为一个人走出国门的关键性因素。在初中进行英语教学的目的无非有两种:一、让学生了解中外文化的差异,了解英语的国际背景
【摘要】在高中英语教学过程中,教师不仅要传授给学生基本的英语知识,还要将培养学生能力作为教学的主要目的。英语交流对于我国的学生来说,是具有一定难度的,在我国的教育体系中,英语一般在学生的小学阶段就引入到课堂教学中,较早的接触英语能够便于学生对英语文化的了解和掌握,也便于学生对英语语言的学习。要想使学生更好的学习英语,并且学有所用,就应该注重对学生英语交流能力的培养,这样才能达到预期的教学效果。
【摘要】语言发展需要一个过程,如果不多说,就永远不会有进步。那么,鼓励学生愿意说,敢于说,乐于说,有话可说,充分的说英语,“说”能力的培养是小学阶段英语教学的关键。 【关键词】小学英语 语言运用 小学《英语课程标准》中明确指出:激发和培养学生学习英语的兴趣,使学生树立自信心,养成良好的学习习惯和形成有效的学习策略,发展自主学习的能力和合作精神,使学生掌握一定的英语基础知识和听、说、读、写技能,
【摘要】兴趣是最好的老师。在英语课堂教学中,我通过创设兴趣情境、生活情境、游戏情境、直观情境四种情境来激发学生的学习兴趣,收到良好成效。 【关键词】小学英语 情境教学 随着新课程改革的深入,小学英语教学也有了日新月异的变化,虽然自己只是一个刚有几年教龄的年轻教师,但是也在新课改精神的影响下努力地完善自己的课堂,摸索新的、有效的教学方法来吸引孩子的注意力,进而学好英语这门特殊的学科。经过多种尝试
在新课程改革的理念下,要求教师在英语教学的开始阶段,精心设计材料,积极引导学生自发、自主地进入课堂,从而最大化地提高学习的有效性。这既符合学生的认知逻辑结构,又有利于课堂的动态生成,也有利于实现知识与技能、过程与方法、情感态度与价值观三维教学目标的统一。 1.点燃学生爱心,调动表达自主性,使学生因喜爱而学 教育的核心是育人,育人的核心是爱。新课程改革要求课堂教学必须最大限度地满足学生的需求,只