【摘 要】
：
针对经典BiLSTM-CRF命名实体识别模型训练时间长、无法解决一词多义及不能充分学习文本上下文语义信息的问题,提出一种基于BERT-BiGRU-Attention-CRF的中文命名实体识别模型.
【基金项目】
：
国家自然科学基金资助项目(61806170)
论文部分内容阅读
针对经典BiLSTM-CRF命名实体识别模型训练时间长、无法解决一词多义及不能充分学习文本上下文语义信息的问题,提出一种基于BERT-BiGRU-Attention-CRF的中文命名实体识别模型.首先利用BERT语言模型预训练词向量,以弥补传统词向量模型无法解决一词多义的问题;其次,利用双向门控循环单元(BiGRU)神经网络层对文本深层次的信息进行特征提取,计算每个标签的预测分值,得到句子的隐藏状态序列;然后利用注意力机制(Attention)层对词加权表征,挖掘词间的关联关系,得到新预测分值,新状态序列
其他文献
以P2P网贷利率作为研究中国互联网金融市场的切入点,在分析中国P2P网贷利率与传统金融市场利率之间波动溢出机理的基础上,通过构建自相关VAR模型和多变量动态条件DCC-GARCH模
TextRank算法基于图论,考虑文本的整体结构,而关键词与文本主题紧密关联。网络博客作为一种新兴的出版方式,与新闻、专业论文等文本不同,其编辑方式更为随意,没有传统意义上
针对2018年6月11日四川盆地一次飞机人工增雨作业过程,采用地面自动站数据、FY4A卫星云参数产品和多普勒雷达产品等多种资料,使用统计检验和物理检验相结合的方法,分析了作业
为研究青藏高原上空多种对流层顶的时空变化特征,基于2008-2016年COSMIC掩星数据及ERA-Interim再分析资料,根据WMO的定义得到第一对流层顶(the first lapse-rate tropopause,
在小学语文教学中,阅读是非常重要的组成部分,阅读教学的开展可以让学生更好的把握课文的整体思想和情感,对学生写作能力的提升有积极的促进作用,同时也提升学生整体的语文素
为了解北京降雪的微物理机制,利用中尺度数值模式WRFV3.9.1(选取Thompson微物理方案),对2015年11月22-23日北京的一次降雪天气进行模拟,并利用常规降水资料、探空资料、雷达
为探究成都市双流区死亡人数与各个气象因子的关系,选取2010年1月1日-2016年12月31日成都市双流区呼吸、循环系统疾病死亡人数资料及同期的气象观测数据,通过对数据进行描述
基于CSMC.25 μm BCD工艺模型和BG电路结构中的三极管VBE的负温度系数,与恒流源和数据选择器所产生的高低阈值电压的比较,得到一种高精度的过温保护电路.通过Cadence IC51 Sp
为了研究青藏高原土壤湿度与降水的反馈机制,使用WRF模式对2014年8月6-9日青藏高原对流降水过程进行模拟和敏感性实验.结果表明,控制实验能较好地模拟本次降水.土壤湿度增加
为研究成都地区相对湿度的变化特征及中尺度数值模式不同陆面过程方案对该地区相对湿度的模拟能力,利用成都市2014年地面观测资料和NCEP再分析资料,通过不同时间尺度统计分析