基于分段卷积神经网络的关系抽取方法研究

来源 :吉林大学 | 被引量 : 0次 | 上传用户:renxin216
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
自然语言处理是人工智能一个重要的子领域,对人类生活的影响重要且深远。目前如何从海量、冗余的信息中提取用户感兴趣且有意义的内容是亟待解决的问题。信息抽取的两项核心性任务是命名实体识别和关系抽取,近年来深度学习技术在两任务中得到了广泛应用,在效果上取得了很大的进步。关系抽取任务建立在实体识别任务之上,目的是对识别出有意义的实体进行关系提取。本文采用管道方式,研究了以词向量预训练模型为基础的命名实体识别模型,进而利用识别出的实体与神经网络结合完成关系抽取任务。下面对本文工作和创新点进行介绍:1.完成了基于BERT-BiLSTM-CRF模型的命名实体识别工作。通过BERT预训练模型获得词的向量表示,该方法有效缩短了训练时间,对一词多义问题处理效果显著。接着将向量表示序列输入BiLSTM网络层获取文本上下文特征,最后通过CRF层对序列特征进行标注得到最终实体识别结果。2.提出了一种分段卷积神经网络完成关系抽取任务。模型的输入内容为一个句子与其实体,将输入内容转换成表示向量后送入卷积层。在卷积层把向量分成两段并分别采用不同卷积操作,融合了句子和实体信息的模型能更好地提取文本特征。两段卷积结果拼接后输入至池化层进行降维处理,同时能获取更丰富的语料结构特征。最后通过分类器分类并输出关系抽取结果。3.在关系抽取模型中引入自注意力机制,赋予特征自注意力权重。让表述实体间关系的关键特征获得较高的权重值,降低表述错误关系特征的权重。使得模型能捕获重要语义信息,减弱语料库标注问题带来的影响,优化模型的关系抽取效果。文本使用远程监督方法获得训练数据并进行关系抽取,减弱了对人工标注的依赖。实现的命名实体识别功能在识别准确率和时间上取得了一定的进步。根据评估管道方式的关系抽取性能与其它相关模型进行对比,实验结果证明本文提出的方法在关系抽取效果上有所提升。
其他文献
渣浆泵是输送固体物料的主要设备,广泛应用于采矿、电力、海洋工程等重要行业。常见的渣浆泵结构形式为离心式或混流式,由于输送介质中的固体颗粒以不同形式作用于泵的内壁面
行人检测一直是计算机视觉领域中的研究重点和热点,是许多场合应用的重要基础技术,在智能视频监控、VR(Virtual Reality)及机器人等领域中,具有广泛的应用背景。但大多数的行人检测算法都是在PC平台下设计完成的,工程实用性弱,并且随着图像处理技术的高速发展,视频序列的处理任务在大多数硬件平台上的实时性仍不能满足需求。TI公司的TMS320C66x系列嵌入式DSP处理器具有强大的信号处理能力
2014年9月和2015年7月在渤海湾西岸-10m等深线内的2010年、2012年、2014年构建的人工鱼礁区及临近海域(对照区),每片区域选取3个站位,共12个站位采集未受扰动的沉积物样品。
管道相贯线焊缝焊接质量的传统检测方法是人工检测。人工检测存在检测效率低、精度低、可靠性差、可追溯性差等问题。利用爬壁式无损检测机器人代替人工检测可使上述问题得到
以洮州卫人口地理为研究对象,探讨明代洮州卫的人口结构演变、不同部落的相关人口系数、不同户籍人口规模及分布情况、移民人口的空间分布情况。文章研究一些自然地理学上有关区域环境、与周边区域的地理关系、自然灾害和环境保护问题,以及人文地理学上有关明代洮州卫人口规模变化的转折问题、洮州卫在籍人口数量问题、明初移民方式和空间分布问题。以传统的文献学为主要研究方法,结合人文地理学的研究方法,借鉴社会学、民族学、
塔北地区是在塔里木盆地油气最富集区块之一,碎屑岩构造和碳酸盐岩岩溶油气藏是该区最主要的两大油气藏类型,地层岩性和深部盐下等各种隐蔽油气藏是近期主要勘探目标。该区经
大学生是我国宝贵的人才资源,是社会主义事业的建设者和接班人,也是推动社会发展的重要力量,对大学生进行有效的理想信念教育能够帮助他们在其成长过程中抵制错误思想的侵蚀,树立正确的世界观、人生观、价值观。大学生肩负着时代重任,只有使其树立坚定的理想信念,中华民族的伟大复兴梦才能成为现实。大学文化视域下大学生理想信念教育能够帮助大学生在大学文化的影响下树立崇高的理想和坚定的信念,使大学生成为担当民族复兴大
光学检测作为一类利用光学信号来进行检测的分析方法,在疾病标志物检测、食品安全、水质检测及危险品检测等领域具有十分广泛的应用范围。光学检测的信号包括吸光度、透射率
  碳氢化合物的活化及氧化是将石油化工及煤化工初级原料转化为有用化工产品的重要途径[1],采用氧气(O2)来活化并氧化碳氢化合物是一种廉价、环境友好的方法。
移动互联网的快速发展促使移动智能设备得到了迅速地普及,Android操作系统因其良好的可移植性性和便携性成为了目前市场份额占比最大的移动智能设备,Android应用程序作为信息交流的重要载体已经逐渐深入到人们的日常生活中。由于Android的开源性和受欢迎程度,使其逐渐成为了黑客和恶意软件攻击者的攻击目标,进而给人们造成隐私泄露、财产安全等严重的威胁。因此,针对Android恶意软件进行有效地检测