自2012年来,谷歌知识图谱(Google Knowledge Graph)技术引发各领域研究人员的广泛关注。知识图谱本质上是一个由实体节点相互连接形成的网状语义知识库,其初衷是增强用户的搜索体验并提高搜索引擎的能力。但随着科研人员的深入研究,知识图谱技术已渗入各个研究领域,它以其本身强大的开放组织能力以及语义处理能力,为互联网时代的智能化信息组织与应用奠定了基础。知识图谱旨在清晰的描述实体与实体之间的相互关系,即实体关系对是构成知识图谱的基本单位,因此知识抽取作为构建知识图谱的根基,已成为近年来自然语言处理领域的重要研究内容。实体关系抽取有两种工作方式,传统的工作方式类似于流水线(Pipelined):对于输入的句子序列,首先进行命名实体识别,然后利用一定的规则将识别出来的实体两两组合,再进行关系抽取(分类),从而得到由实体和相应关系类型组成的实体关系对。第二种是联合抽取的工作方式,通过单个模型同时完成命名实体识别和关系抽取任务。本文以ACE05数据以及NYT开源数据集为研究对象,结合深度神经网络与注意力机制以及远程监督思想,提出两种新的联合实体关系抽取模型,同时对文本进行实体抽取和关系抽取。本文的主要工作包括以下两个部分:(1)传统的实体关系抽取模型会导致误差累积、信息冗余且在模型实际训练中并没有考虑两个子任务的相互关系。针对这些问题,本文提出基于共享底层编码和单双层Attention机制的联合实体关系抽取模型。这种方案保留了共享神经网络底层编码的学习方式,新增了能够分别计算实体词与实体词之间相互影响的E2E-Attention层,以及能够计算实体词与关系词相互影响的E2R-Attention层,在关系抽取模块采用了Bi-LSTM网络来考虑实体词的位置关系对关系分类的影响。通过共享底层编码的方式,利用非同时工作的单双层Attention机制增强知识抽取任务中实体词和关系词的依赖关系,然后利用反向传播算法来更新共享的底层参数,从而实现两个子任务之间的联合学习。在一定程度上强化了模型对实际实验数据的适应性,提升了实体关系抽取任务的准确率和综合性能。(2)提出一种半监督的基于序列标注与远程监督的联合实体关系抽取模型。这种方案基于序列标注策略,将输入句子通过词向量学习转化成1-hot的词向量,然后传给LSTM编码层以及信息增益层。其中,信息增益层主要包括计算实体关系对之间依赖关系的Attention层,以及利用远程监督思想得到的实体关系对的增益权重层。利用信息增益层中的两个子权重模块来强化模型对实体词和潜在关系类型的注意力,从而将实体关系抽取任务转换为端到端的序列标注任务,在时间和空间上实现了联合实体关系抽取任务,一定程度上大大减少了模型对人工标注数据的依赖,并且在垂直领域知识图谱的构建中起到十分重要作用。