基于神经网络的事件时序关系识别方法研究

来源 :苏州大学 | 被引量 : 1次 | 上传用户:CHENYF20000
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
事件时序关系识别是对具有时序关联的事件对进行识别,并对它们之间的时序关系进行分类的一项任务。它对任何试图深入理解自然语言的系统来说都至关重要,如自动问答、信息抽取、文本摘要等。早期的事件时序关系识别研究通常专注于提取各种语言学特征,这些研究工作严重依赖人工标注的特征和外部知识库,而对形式上更加灵活且更具泛化能力的神经网络的应用却相对较少。本文工作聚焦于神经网络方法在事件时序关系识别任务上的应用,研究内容如下:(1)基于深度双向长短期记忆网络的事件时序关系识别方法与传统的基于特征工程的统计机器学习方法相比,神经网络方法在事件时序关系识别上显现出明显的优势。但是,现有的神经网络架构往往较为浅显(如单层循环神经网络或卷积神经网络),导致它们可能无法在不同的抽象层次上探索潜在的语义表示空间。针对这一问题,本文提出使用深度双向长短期记忆网络进行事件时序关系识别。该方法将多层网络中的所有前置层输出进行拼接作为后续层的输入,从而使其中的信息充分流动。实验结果表明该方法能有效提升事件时序关系的识别性能。(2)结合自注意力和神经网络的事件时序关系识别方法对于传统的循环神经网络或卷积神经网络而言,处理结构化信息和捕获句子的长距离依赖关系仍然是一个重大挑战。针对这个问题,本文提出一种结合自注意力机制的事件时序关系识别模型,它可以直接捕获句子中任意两个词例之间的关系。将自注意力机制与非线性神经网络层相结合,可以使事件时序关系识别性能得到显著提高。对比实验证明所提方法优于现有的大多数神经网络方法。(3)基于神经网络的事件时序与因果关系联合识别方法事件之间的时序关系和因果关系密切相关,两种事件关系往往相互影响。然而,对这两种关系进行联合学习的研究却极为有限。本文提出一种基于神经网络的联合学习框架来整合时序关系识别和因果关系识别两个任务,通过共享两个任务模型的网络层信息来实现两种关系的相互作用。实验结果表明,通过利用事件之间的因果信息,联合学习框架能够显著提升时序关系的识别性能。本文提出了三种有效的事件时序关系识别方法。针对事件时序关系识别方法中存在的问题,例如网络架构浅显、难以处理结构化信息和捕获长距离依赖关系、忽略时序关系和其它事件关系的关联等,给出了不同的解决方法,并显著提升了事件时序关系识别的性能。这些方法在学术研究和实际应用中有着良好的研究价值。
其他文献
设p是奇素数且b,t,r∈N。1992年,马少麟猜想(x,b,p,t,r)=(49,3,5,1,2)是丢番图方程x2=22b+2 p2t-2b+2pt+r+1的惟一正整数解。马少麟也证明了此猜想可以推出除子为-1的阿贝尔
众筹作为一种新兴的互联网金融模式,为个人创业者和初创企业提供了新的筹资途径和营销手段。然而众筹项目融资金额增长迟缓甚至负增长,同时项目筹资失败比率高达50%,因此如何
我国电子废弃物回收市场面临基数大、增速快及回收率低等情况,实现电子废弃物高回收不管是在环境上还是经济上都能带来可观的价值,但政府采取了一系列措施效果甚微。基于此押
近年类,在开发新的水下自主航行器的背景下,鱼类在流体介质中的运动行为已收到广泛的关注。这些研究通常简化仿生推进的问题,研究孤立的震动表面在流体中的推进性能,并已取得
本文主要针对两类具有非线性信号产生机制的趋化模型进行了研究。首先,对下面这类具有非线性化学信号间接产生机制的趋化模型的齐次Neumann初边值问题进行研究:其中Ω(?)Rn(n
人工介质是一种新型复合介质结构或材料。常见人工介质有超材料、光子晶体、人工等离激元结构等。这类材料的性质可以通过人工设计调节,从而具有自然材料所不具备的功能,产生了许多新奇的性质:异常折射、超透镜和电磁隐身等。这在通信、成像和军事等领域有着广泛的应用。电磁单方向传输是指电磁波只沿特定的一个方向传输,在相反方向完全抑制传输,具有抗背向散射的特性。本论文基于多层结构的人工介质,研究了电磁单向传输的性质
群智能算法作为元启发式算法的一个分支,近年来受到学者的广泛关注,在理论和应用等方面取得了很多研究成果,特别是群智能优化算法与人工神经网络相结合,形成的混合神经网络模
根据腔量子电动力学,我们知道当使用由类似于光波大小的介质形成的微小腔结构时,可以改变原始光场分布。从而实现物质与光场之间相互作用的调节。克尔非线性效应在量子信息处
脂肪醇常指C6-C22的直链且只含有一个醇羟基的精细化学品,被当作表面活性剂广泛应用于日用、食品、农业等领域。脂肪醇分为两大类:合成和天然脂肪醇。合成醇的原料石油,属于
猪链球菌(Strepptococcussuis,S suis)是猪链球菌病主要病原菌,能够引起猪的脑膜炎、肺炎、败血症、多发性关节炎和皮肤化脓性感染,造成了世界养猪业的经济出现严重的损失,也是一种重要的人畜共患病原菌,对人畜公共卫生安全造成了严重的威胁,且如何进行该病的防控受到了越来越多人员的关注。本研究针对2017~2018年从安徽地区屠宰场表观健康猪只中采集的病料(肺脏)中分离得到的猪链球菌的