基于CNN-BiGRU-Attention的评论情感分析研究

来源 :华中农业大学 | 被引量 : 0次 | 上传用户:Ddaqdd
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的更新迭代,越来越多的消费者在互联网平台上分享、交流,因此产生了大量的评论文本数据。挖掘海量文本中隐藏的消费者的情感态度,对消费者、企业和互联网平台都具有重要意义。传统的情感分析方法存在依赖大量人工设计、特征提取能力不足等问题,无法满足现阶段情感分析任务的要求。基于深度学习的方法被证实是目前最前沿的方法,并且对其进行有效融合也更优于单一模型。因此本文探索了更具优势的融合模型,并应用于长评论文本中以提升其分类性能。首先,鉴于目前单一模型对长评论文本特征提取不足和融合模型参数量大的问题,本文提出了 BiGRU-Multi-Att-DSTCN融合模型(Bidirectional Gated Recurrent Unit Multi-head Attention Mechanism Depthwise Separable Temporal Convolutional Networks,简称BiGRU-Multi-Att-DSTCN)。模型先使用双向门控循环单元提取文本的全局信息:融入多头注意力机制获取文本不同子空间的多重特征;然后传入时间卷积网络,并对其改用深度可分离卷积的方式以降低可训练参数量;最后将充分提取的特征输入全局平均池化层后再进行分类。其次,针对长评论文本中类别不平衡和硬样本问题,在BiGRU-Multi-Att-DSTCN融合模型基础上,本文提出可训练参数量更少但分类性能更佳的BiGRU-Att-HCNN融合模型(Bidirectional Gated Recurrent Unit Self-Attention Mechanism Hybrid Convolutional Neural Networks,简称 BiGRU-Att-HCNN)。模型先将自注意力机制融入双向门控循环单元;然后将标准卷积和多层的空洞卷积并行,用来同时提取短语级和句子级的多尺度特征,其中卷积方式更换为分步计算的深度可分离卷积。传统的交叉熵损失导致硬样本和数量多的某类样本的损失值占据总损失值的主体。因此本研究改用焦点损失,并用Leaky ReLU激活函数接收由焦点损失导致的低损失值。最后,本文将上述两个模型在三个公开的数据集IMDB、Yelp2013和TSB上进行验证。与18个基准模型对比,本文提出的模型在六个评价指标下具有一定的优势,且后者性能更优。同时,对两个融合模型中关键的超参数和多个重要的模块进行实验并分析,最终证明BiGRU-Multi-Att-DSTCN和BiGRU-Att-HCNN融合模型在长评论文本数据集上优越的分类性能。
其他文献
聚γ-谷氨酸(γ-PGA)是一种安全无毒且具有可食用性的生物聚合物,可作为增稠剂、稳定剂、抗冻剂等应用于食品中,并且在农业、化妆品、医药等领域也有较广泛的应用。我国每年产生大量玉米秸秆废弃物,其综合高值化利用一直是近年来的研究热点。玉米秸秆经水解后主要产生木糖,伴有少量葡萄糖,且产生甲酸、糠醛等抑制微生物生长的毒性物质。目前,既能高效利用木糖又可耐受秸秆水解液毒性抑制物的聚γ-谷氨酸高产菌株较少。
学位
智能优化算法(也称元启发式算法)是一种广受欢迎的算法,它的寻优过程不依赖于梯度信息,并且便于根据求解问题的特征进行扩展。自1967年遗传算法提出来,已经有上百种智能优化算法被提出。通常,智能优化算法是根据自然环境中的现象构造的,可以被看作为一种对现实策略的模型刻画。到目前为止,虽然已经有许多使用了不同搜索结构、优化策略的智能优化算法被提出,但为了更好的解决实际问题,仍需提出具有更优秀的收敛性、更强
学位
语文课外阅读是语文学习过程中不可或缺的一部分,也是提高学生语文核心素养的有效途径。它不仅能促进学生积累丰富的语言材料和言语活动经验,发展、提升学生的思维能力和思维品质,还能提高学生的审美乐趣和文化品位。然而,当前初中生的语文课外阅读逐渐流于表层,致使其失去了应有之义。深度学习视角下语文课外阅读的提出与研究是回归课外阅读本质的需要,这对改善当前语文课外阅读表层化具有积极的意义。本研究在梳理国内外对深
学位
网络研修为异地教师建立了连接,但远程分离、缺失沟通的社会线索和非语言信息,导致教师社会存在感和研修满意度不断降低。“虚拟现实仿真”“全息直播课堂”等赋能的课例在研修中屡见不鲜,为远程在场和教学互动提供了新思路。研究依托河南师范大学现有的教师教育国家级实验教学中心开展实验研究,借助“M.A.R.K.机器人教育虚拟仿真实验”项目中“全息裸眼3D设备”等软硬件设备及河南省高校教育信息工程中心的技术支持,
学位
角色分配是推动协作学习有效性发生的重要策略。然而目前在进行角色分配时,大多采用由教师指定或学生自由选择的方式,导致无法深入了解学生的角色特征,难以进行最优化的人员搭配。从而阻碍了协作学习小组的深度交互、知识的建构以及任务目标达成。如何依据学生的角色特征和其所在协作学习小组的整体情况进行科学合理的角色分配,成为当前小组协作学习中亟待解决的重要课题。为此,本文通过分析目前协作学习中与角色分配有关的研究
学位
随着互联网技术和在线商务平台的发展,越来越多的制造商选择在传统分销的基础上增设了直销渠道的销售布局。而多渠道布局直接影响了供应链中参与者(特别是传统零售商)的运营效益,由此产生了“渠道冲突”等问题。与此同时,激烈的市场竞争倒逼制造商们越来越注重产品升级的策略,以获得更大的市场份额。在供应链管理领域中,不同渠道产品差异化管理和质量改进策略是制造商们常用的策略。但是,以往的研究侧重于需求确定下的质量改
学位
道德利他是道德主体基于道德对象所面临的道德困境,自觉产生有利于道德对象的利他观念、利他情感并积极践行有利于道德对象的利他行为,是道德主体的认知、情感和行为的有机统一。道德的本色是利他性,道德利他是道德领域中一种积极的正向现象,而在当今道德领域中,道德旁观、道德冷漠等失范行为时有发生,强调道德利他是期待缓解道德失范行为,加强道德利他的一个理性思路。研究通过文献法、跨学科研究法对道德利他的现状梳理分析
学位
计算思维的培养关乎着我国未来国民的素质和国家的未来发展。项目式学习作为培养计算思维的一种有效教学模式,极具发展性和研究价值。因此,研究构建了面向计算思维培养的项目式教学模式,以期为计算思维教育的未来发展提供思路与借鉴。研究通过文献研究法、问卷调查法、访谈法、准实验研究法等研究方法开展研究工作。首先对计算思维、项目式学习、程序设计课程进行了国内外研究现状分析,进一步明晰了计算思维的定义、项目式学习的
学位
开展教育管理与教育教学活动,既是教师权利,也是教师义务。当下,学生行为问题多样化,衍生出诸多师生间因教育惩戒问题引发的冲突。一方面,教育惩戒权越界行使问题屡有发生,学生合法权益缺损情况严重;另一方面,学生维权呼声高涨,教师管理压力增大。教育惩戒始终是教育实践中无法忽视的问题,而边界不清不仅使教师教育惩戒权的行使有潜在的越界风险,也使教师专业自主权的行使受限。明确教师教育惩戒权的法律边界,让教师有更
学位
部分线性模型兼具线性模型的可解释性和非参数模型的灵活性,且其被认为能够对复杂数据进行建模。事实上,部分线性模型的性能在很大程度上取决于模型中变量结构的选择,例如,哪些变量对响应是线性影响,哪些变量是非线性影响。因此,针对部分线性模型的变量结构发现问题被广泛研究。但是,现有的模型往往基于高斯噪声假设局限于均值回归,对非高斯噪声比较敏感。为了提高部分线性模型的鲁棒性,本文利用众数回归通过学习条件众数来
学位