【摘 要】
:
命名实体识别是指识别出文本中存在的命名实体并对其进行标注,其应用范围广泛,是信息抽取、机器翻译和知识图谱等诸多任务的重要技术根基。如何利用深度学习技术从中文文本中自动、准确、快速地识别出命名实体,具有重大的研究价值和实践意义。首先详细介绍了Bi LSTM-CRF框架的原理和存在的局限性。目前基于字符向量的Bi LSTM-CRF模型成为主流方法,但在文本表示、特征提取、模型训练效率等方面存在局限性。
论文部分内容阅读
命名实体识别是指识别出文本中存在的命名实体并对其进行标注,其应用范围广泛,是信息抽取、机器翻译和知识图谱等诸多任务的重要技术根基。如何利用深度学习技术从中文文本中自动、准确、快速地识别出命名实体,具有重大的研究价值和实践意义。首先详细介绍了Bi LSTM-CRF框架的原理和存在的局限性。目前基于字符向量的Bi LSTM-CRF模型成为主流方法,但在文本表示、特征提取、模型训练效率等方面存在局限性。接着针对目前方法中存在的问题进行改进,使用字词联合向量丰富文本表示,并提出了两种改进的深度学习模型。一种是CNN-Bi GRU-CRF模型,加入CNN网络来提取文本的语义空间特征,并使用GRU网络替代LSTM网络,简化模型的复杂结构。另一种是Transformer-Bi GRU-CRF模型,通过Transformer编码器的结构进行文本特征提取,其中自注意力机制能够学习文本内部的语义信息,多头注意力增强文本的特征表示,有助于解决文本的长距离依赖和关键词的突出等问题。最后对于提出的改进方法进行实验研究。通过实验结果表明,与基准模型Bi LSTM-CRF相比,基于CNN-Bi GRU-CRF模型的识别效果在F1值提升了1.91%,GRU网络在训练速度方面表现更好;基于Transformer-Bi GRU-CRF的改进模型在F1值提升了3.41%,表现出Transformer模型对于文本特征的强大学习能力。实验验证了主要工作的可行性和有效性。
其他文献
小学教师培训,对于我国教育的发展起到十分关键的作用,对于这部分老师培训效果的好坏,将会直接对于小学教学形成影响。我国教育主管部门一直在加强对于小学教师培训的推进,但是在具体实施的时候往往和预期差距较大,其中原的因也较为复杂,但是培训管理的问题是其中一个十分重要的问题,因此加强对于小学老师培训管理十分关键。本文针对学者目前对于小学教师培训的相关研究成果进行全面地梳理,将部分十分宝贵的研究成果运用了本
2020年初,为了打赢疫情防控阻击战,各省市中小学春季开学延迟到了五月份,为了响应教育部“停课不停学”的号召,学生开始了线上学习.由于疫情的突发性,以及没有可以借鉴的成熟的教学模式,老师们只能是赶鸭子上架,边教边学边实验,虽然线上教学取得了一些成绩,但学生的线上学习效果并不理想.疫情发生之后,增强学生的线上学习效果是数学教育工作者们关注的热点问题.我们需要一方面深度分析学生的线上学习实际,另一方面
高精密度光纤工艺在线测量在光纤器件制造过程中起到重要作用,测量精度决定着高功率光纤激光器的制造功率上限和光纤传感器的制造精度。传统的方法然而传统的方法存在测量精度低、测量种类少和测量速度慢等问题,因此如何对光纤工艺进行快速准确的测量成为了一个国内外关注的热点。针对传统方法的不足,本文结合图像处理技术,设计并实现了一种光纤工艺测量装置,提高了光纤工艺的测量精度、测量范围和测量速度。本文主要工作是开发
石墨烯和Cu增强Al基复合材料均具有电导率高、强度高的特点,是很有发展前景的电缆材料。但它们在制备过程中易生成金属间化合物且材料的均匀性差,这限制了其的广泛应用。针对上述问题,本论文以石墨烯和Cu增强Al基复合材料为研究对象,分别采用机械搅拌法、化学法和球磨法制备混合粉末,再采用SPS技术烧结成形,研究关键工艺参数对复合材料的组织结构及性能的影响。对于Cu增强Al基复合材料,混粉方式、Cu粉粒径和
随着“一带一路”倡议的提出及“亚投行”等战略的稳步推进,我国与世界其他国家之间的经济、文化交流更加频繁。来自世界各地在华从事文化交流、商务活动、教育合作的外籍人员不断增多,会议口译变得愈加频繁。口译员已经成为对外合作交流不可或缺的角色,与此同时,对于口译工作人员整体素质要求也在不断升级:口译员在具备翻译语言能力和水平的基础上,还应充分考虑目的语听众的文化背景及接受能力,以达到更高水平的翻译效果。该