基于深度学习和注意力机制的评论文本情感分类方法研究

来源 :河北工程大学 | 被引量 : 0次 | 上传用户:yaodmangrady
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
情感分类是自然语言处理领域的研究热点之一。对用户在各个社交平台上的评论进行情感分类,有着越来越高的实用价值。本文针对传统情感分类模型特征提取能力欠佳,无法妥善应对一词多义的问题,通过堆叠嵌入动态词向量与静态词向量,改进评论文本的特征提取方式,对文档级和方面级评论文本的情感分类方法进行深入研究。具体内容包括以下两点:(1)针对传统文档级情感分类模型未充分考虑原始信息全局和局部特征,无法依据上下文调整词向量的问题,提出一种ELMo-CNN-Bi GRU双通道文档级评论文本情感分类方法。首先,利用ELMo和Glove预训练模型,分别生成动态和静态词向量,通过堆叠嵌入两种词向量,生成输入向量;其次,利用自注意力机制处理输入向量,计算内部的词依赖关系;再次,构建CNN和Bi GRU的双通道深度学习结构,同时获取文本局部特征和全局特征;最后,将双通道处理结果进行拼接,经过全连接层处理,输入分类器获得分类结果。(2)针对传统方面级情感分类模型中,未能充分捕获评论文本特征信息,方面信息提取能力欠佳的问题,提出一种XLNet-CNN-GRU双通道方面级评论文本情感分类方法。首先,采用LDA主题模型提取评论文本的方面信息,使用预训练的Glove模型将提取出的方面词转化为静态词向量,利用预训练的XLNet模型生成评论文本的动态词向量,对两者进行堆叠嵌入;其次,将堆叠生成的词向量分别输入到融合注意力机制的GRU和CNN通道中,提取评论文本的全局和局部特征;再次,将双通道的处理结果进行拼接输入到自注意力层,利用自注意力机制提取特征;最后,将特征传入全连接层进行处理,利用分类器获得方面级情感分类结果。实验结果表明,在IMDB、yelp、sentiment140这三个数据集上,ELMo-CNNBi GRU双通道文档级情感分类方法在准确率和F1值两方面,较CNN、BIGRU、Bi LSTM+EMB_ATT、Bi GRU-CNN、H-Bi GRU和PF-CNN模型有所提升;在Sem Eval-2014的restaurant和Laptop以及ACL 14 Twitter数据集上,XLNet-CNNGRU双通道评论文本情感分类方法在方面级情感分类任务中,获得了更高的准确率和F1值,提高了方面级情感分类效果。
其他文献
<正>国有企业机关作风一般是指机关管理人员表现出的工作上的态度。由于机关直接负责对上联络和对下服务,其作风情况容易左右了上级态度和企业职工向心力,以至影响企业的发展和进步。由于国有企业机关自身特点,经常伴随着一些弱化机关作风的现象。因此本文对国有企业机关作风的典型表现、成因进行分析并提出5条对策,以期对加强国有企业机关作风建设有所帮助。
期刊
水培韭菜风味不及土壤栽培韭菜,其原因在于风味前体物质CSO积累不足。为提升水培韭菜风味,将4种参与CSO生物合成的氨基酸(缬氨酸、丝氨酸、半胱氨酸和谷氨酸)添加到营养液中,研究4种氨基酸对水培韭菜生长发育、营养品质及风味的影响。试验结果表明,氨基酸处理对光合色素含量和营养品质指标影响不大,而对韭菜生长指标、产量及辛辣度的影响不尽相同,其中以谷氨酸处理效果最佳,不但能显著促进韭菜生长,增加产量和VC
国有企业在我国经济建设中肩负巨大责任,在产业结构转型、市场供需关系、国家政策要求等的共同指引下国有企业持续深入改革,旨在新时代助力经济腾飞。国有企业管理属于改革热点,尤其在引入市场机制条件下以往的管理体系问题更为突出,如风险识别能力弱、效益性欠佳等,如何强化管理实力,成为国有企业深入改革要解决难题之一。管理会计属于会计体系一个分支,与财务会计属于并列关系,利于国有企业改进运营管理体系,为追求更高价
人们将穿搭视为自己个性的表达,也更加注重自身服装搭配。当用户面临穿什么,如何穿而苦恼时,一项简单快捷的智能穿搭技术可解决用户的需求。为满足个性化穿搭需求,首先利用VGG16网络对用户提供的服装图像进行检测与识别,应用OpenPose技术与身高、体重等参数以获取身材信息;进而根据用户的个性化需求,基于用户选择的出席场合,将预处理完毕的用户服装依照流行的色彩匹配模式应用到服装搭配上,最终为用户提供智能
国家的制度政策体系中,语言政策是其公共政策的重要组成部分。国家语言政策与国家各项事业共同发展,相互促进,同时语言政策有利于促进国家稳定与和谐、民族团结、经济社会平稳发展。1921年后,蒙古国相继颁布了一系列语言文字政策并逐一实施,这些语言文字政策促进了文化教育事业、社会经济发展。历经百年,蒙古国语言政策逐渐形成其鲜明的特点。本文由绪论、蒙古国语言文字政策概况、蒙古国语言文字政策历程、语言教育政策内
依托宁海抽水蓄能电站工程建设实践,围绕混凝土数字化拌和、智能化管控技术,提出了基于砂骨料含水率实时在线监测的混凝土生产智能管控方法。通过分析混凝土原材料关键参数及试验检测数据,结合混凝土配制理论,建立了混凝土智能拌和的预警和反馈调节机制,研发了相应的智能在线管控系统。该系统可实现混凝土拌和过程中各种信息数据的实时采集,通过大数据云平台的数据分析与实时监控,对混凝土拌和过程中的异常配合比进行预警预报