命名实体识别是自然语言处理领域一个非常重要的基础研究任务,是如问答系统、搜索引擎等诸多NLP高层应用必不可少的组成部分,识别命名实体准确与否将会直接影响这些任务的后续性能。早期进行命名实体识别的方法大多都是基于规则或基于统计的,需要人工根据具体的语言和领域来构造规则模板或设计统计特征,这导致系统的实现代价很高,并且移植性差。深度学习方法具有自动从数据中学习特征表示的能力,近十年来,其在人工智能领域的各种任务中均取得了不俗的成绩。相比传统方法,基于深度学习的实体识别模型不仅标注效果更好,而且实现代价更小。但是这些方法也存在着些许不足:(1)实体识别是一种需要强依赖上下文信息的来做决策的任务,绝大多数的模型都采用双向LSTM作为编码器来捕获输入的上下文依赖关系。但是LSTM训练时间非常长,并且传统LSTM的输入和隐层状态是相互独立的变量。(2)标注输入序列时,一般需要文本元素多方面的信息,这些信息都由各自的向量表示,标注模型通常直接拼接这些向量作为输入,这会导致信息冗余。本文针对以上问题,主要做了以下工作:1.针对LSTM训练时间长的问题,本文提出采用空洞卷积网络对输入序列进行依赖关系编码。空洞卷积方法在卷积核中注入空洞来扩大感受野,将其用于处理文本数据时能够捕获远距离的语义信息。通过对比实验发现,空洞卷积对语义依赖关系的编码能力可以比肩LSTM模型,将空洞卷积网络与注意力机制融合后可以进一步提升模型的标注效果。2.传统LSTM网络每个时刻的输入x_t和前一个时刻的隐层状态h_t是相互独立的,它们只在LSTM的门控中进行交互,而在之前毫无关系,这会导致上下文信息的丢失。本文提出采用形变LSTM网络对输入序列进行依赖建模,形变LSTM并没有改变传统LSTM的网络结构,只是让x_t和h_t在输入LSTM网络之前先进行交互。通过对比试验发现,形变LSTM网络比传统LSTM网络具有更强的上下文依赖关系建模能力,在形变LSTM的基础之上将注意力机制融入标注模型可以获取更多的上下文语义信息。3.作者提出基于注意力机制来连接单词的词向量和字符特征向量,实验表明,与直接进行向量拼接的传统方法相比,采用这种新方法可以获得更好的标注效果。