基于BERT和神经网络融合的文本情感分析研究

来源 :兰州理工大学 | 被引量 : 1次 | 上传用户:f805616873
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着社交媒体的快速发展,数以亿计的人在网络上分享自己的观点,因此网络平台上产生了大量具有主观情感的数据。通过对这些文本数据进行情感分析,无论是对于国家或者社会都有着重要的意义。目前深度学习方法在微博情感分析任务上取得了很好的成绩,但大多数对于情感分析的研究仍然是基于文本的,忽略了如表情、图片这样的特征。其次,目前的情感分析不能有效的处理序列化文本,虽然胶囊网络在小数据集上的浅层结构下具有优越的分类性能,但其不足之处在于不能单独处理序列化的文本数据。为了解决上述问题,有效提高情感分析的准确率,本文主要研究内容如下:(1)针对现有的情感分析研究未能注意到用户情感表达的差异,并且获得的单一文本词向量难以有效捕获文本和标签之间的联系,本文提出了一种基于BERT-AttBiGRU模型的多特征微博情感分析。实验选取包含大量emoji表情的微博评论数据集,首先利用BERT预训练模型获取包含上下文语义信息的词向量,通过双向门控循环神经网络(Bidirectional Gated Recurrent Unit Network,BiGRU)提取深层次的特征信息。然后将emoji向量与文本向量放入注意力机制对提取的特征信息进行权重分配,突出重点信息。最后利用Softmax函数进行微博情感分类。实验结果证明,emoji在文本情感分类中的作用至关重要,融合emoji表情的多特征情感分析模型能有效提高微博情感分类的精度。(2)针对目前的文本情感分析方法不能有效处理序列化的文本,以及传统卷积神经网络随着卷积次数的增加会导致空间信息缺失的问题。本文提出了一种基于BL-Caps模型的文本情感分析方法,利用胶囊网络(Capsule Neural Network,CapsNet)可以解决空间信息的丢失和双向长短时记忆网络(BiLSTM)能够很好的解决跨时间记忆及梯度消失的问题。实验首先采用BERT对数据集进行预处理得到序列化文本,针对原有胶囊层的结构特点,在胶囊网络中加入自注意力机制。然后结合双向长短时记忆网络和改进的胶囊网络来提取文本特征。最后在三个英文标准数据集上进行了对比实验,实验证明本文提出的模型具有较好的情感分类性能。
其他文献
为防止架空乘人装置断绳事故的发生,设计了一种新型断绳抓捕器。使用ANSYA软件对新型断绳抓捕器进行静力学分析,使用ADAMS进行动力学仿真。搭建了试验台,通过实验得出断绳抓捕器的抓捕距离1.2~1.6 m,远小于安全距离3 m,该断绳抓捕器具有较好的断绳保护效果。
期刊
随着大数据和高性能计算机的飞速发展,深度卷积网络已在智能交通、智能医疗等重要领域取得突破性进展。但为了提升网络的性能,深度卷积网络的结构复杂度和模型尺寸不断上升,这严重阻碍了深度网络在嵌入式等边缘设备的部署。因此,关于深度卷积网络模型压缩方法的研究得到广泛关注,并成为深度学习领域的重点研究内容。根据是否需要构建预训练模型,现有深度卷积网络模型压缩框架可划分为有预训练模型与无预训练模型的压缩框架。其
学位
目的 探讨耳后注射甲泼尼龙琥珀酸钠联合复方甘草酸苷对突发性耳聋患者的疗效。方法 选取2019年5月至2022年12月收治的突发性耳聋患者116例,采用随机信封法平均分为对照组和治疗组各58例,对照组采用耳后注射甲泼尼龙琥珀酸钠,治疗组在对照组基础上增加复方甘草酸苷,均治疗2周。比较两组疗效、血液流变学指标变化以及炎症因子水平等。结果 治疗2周后,治疗组患者治疗有效率(94.83%)明显高于对照组(
期刊
随着科学技术的发展,数字图像越来越在人类的生活中占据重要的地位。然而,数字图像在采集、传输等过程中容易受到诸多自然或非自然因素的影响导致图像受损,而当人类透过玻璃或窗户等透明介质拍照时得到的图像也往往含有反射影像,这使得图像质量受到严重影响。尽管伴随着深度学习技术的崛起,图像修复技术得到了巨大的提升,然而在具有挑战性的任务中,如缺损图像修复和反射图像修复,当前方法修复的结果仍然存在不足。本文深入分
学位
随着互联网的快速进步与发展,信息过载和信息冗余问题日渐突出。无数研究者寻求解决方法,推荐系统成为解决此类问题最有效的途径之一。推荐系统中最经典的算法就是协同过滤算法,但它面临的挑战是如何学习到更有效的用户和项目向量表示来增强算法的预测性能。神经网络的非线性特性可以更好地捕捉用户和物品之间的特征交互,为解决这一问题提供了方法。图神经网络处理非欧几里得数据的能力可以更有效解决问题,所以结合了图神经网络
学位
高原鼠兔目标检测是统计高原鼠兔种群数量和研究其种群动态变化的基础。自然场景图像下的高原鼠兔目标体型小、特征不显著及背景复杂,使其可用检测特征少,而基于深度卷积神经网络的目标检测模型在提取特征时经过多次池化操作,使得高原鼠兔的特征更加难以有效提取,从而对其检测不利;此外,基于深度卷积神经网络的目标检测模型需要大量的样本训练,而高原鼠兔栖息地环境恶劣,且对外界环境变化敏感,采集图像困难,使得高原鼠兔训
学位
目标检测是研究计算机视觉的一个重要基础,也是当代社会中做各种视觉任务的基石。近年来,在深度学习飞速发展的背景之下,目标检测已经达到了前所未有的突破。如今,在辅助驾驶、智能安防、自动控制以及医学智能辅助等领域已普遍应用目标检测。但是,目前的方法处理小目标问题仍然很棘手。真实世界中杂乱多变的使用场合下,小目标伴随着目标光照和遮挡等剧烈变化的情况,通常比较复杂且难以观察。因此,对小目标的检测非常困难。基
学位
“足以严重危害人体健康”是妨害药品管理罪的构成要素,具有三个方面的作用:限缩罪名适用范围、界分刑行关系和判断犯罪类型。妨害药品管理罪的法益保护类型是医药管理秩序,不包括人体健康。分析“足以严重危害人体健康”的内涵,妨害药品管理罪是具体危险犯,不是抽象危险犯,也不是准具体危险犯。判断是否“足以严重危害人体健康”,需要从个案性向规范性转变,具体包括行为人创设了行为风险、导致危害结果发生、行为风险和危害
期刊
图谱理论的研究是以邻接矩阵、距离矩阵和路矩阵等图的矩阵为主要研究对象,通过将图转化成相应矩阵,应用矩阵的特征值和特征向量来建立图的拓扑结构和特征值、特征向量等之间的联系。图谱重要的理论意义及广泛的应用价值使得它不仅与数学分支有着密切的联系,而且在复杂网络、化学、统计力学等学科中都有重要的应用,特别是在复杂网络中,以图谱理论为基础的节点中心性算法、社团挖掘算法、链路预测算法等为实际复杂系统的瓶颈问题
学位
随着航空航天事业的发展,航天器在轨运行的振动不可避免。就航天器本体结构而言,太阳能电池板、空间机械臂及航天器基础构架等空间结构具有刚度低、阻尼小的特性,这些因素都致使航天器很容易受到内外干扰而发生振动,以致影响航天设备正常运行。因此对航天设备与装置的实时振动控制,已成为航天工程领域亟待解决的关键技术问题。本文主要对在外力作用下柔性结构的振动及控制进行研究,利用柔性悬臂梁作为控制对象,压电薄膜(Po
学位