基于BERT的细粒度情感分析研究

来源 :中央财经大学 | 被引量 : 0次 | 上传用户:handy1989
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着自然语言处理技术(NLP)的发展与计算性能的提升,计算机对人类自然语言的分析、处理能力在近年来得到了飞速发展。情感分析作为NLP领域的一个重要任务,从20世纪开始就有学者进行研究。所谓情感分析任务,就是对于给定自然语言文本,使用自然语言处理方法对其进行情感语义挖掘,包括情感分类、情感打分、意图识别。早期的情感分析任务,一般是以句子或篇章为单位的粗粒度情感分析,然而随着研究的深入,人们认识到,一篇文章或一句话中很可能存在多个目标实体(Target)以及实体对应的方面(Aspect),如果不加区分而直接进行句子层面的情感分析,很可能损失掉很多信息。方面级别的情感分析(Aspect Based Sentiment Analysis,ABSA)是指对文本中包含情感倾向的实体或者方面进行定向的情感分析,是目前粒度最细的情感分析任务。方面级别的情感分析往往需要结合实体抽取、方面分类、情感分类中的一种或多种任务,因此任务难度较大,且比较难建立端到端的方面级情感分析模型,需要借助深度学习的方法来进行建模。对于ABSA任务,有生成式的解决方案,其任务是给定一段文本,以及对于该文本的总体得分,提取出文本中蕴含的各个aspect的情感得分以及相对于总得分的权重;有基于注意力机制的LSTM方法(ATAE–LSTM);有尝试借助预训练模型BERT,构造辅助句子的解决方法。由于自然语言的表述方法纷繁多样,如果仅仅根据有限的标注训练数据很难让模型学习到更加通用的情感语义知识。而近年来兴起的预训练模型则很好的解决了这方面的问题,通过在大规模无标注文本上进行通用的半监督预训练可以提升模型对于通用语义的表征能力。本研究充分利用预训练模型的优势,基于大规模预训练模型BERT进行语义表征,并在此基础上设计了两种不同的用于进行ABSA任务的模型:单塔流水线模型(STP)与双塔端到端模型(TTEE)。1.单塔流水线模型在BERT基础之上,还有目标抽取模块、目标方面分类模块、目标情感分类模块,分别完成目标抽取任务、目标方面分类任务和目标-方面情感分类任务。2.双塔端到端模型则对文本和预设方面类别、预设情感极性分别使用两个参数共享的BERT进行编码,除此之外还有融合模块和目标抽取模块。双塔端到端模型的优势在于,目标抽取、目标方面分类、目标情感极性分类可以一起通过一个序列标注任务完成。我们建立的两种方面级情感分析模型,都可以在给定方面类别、情感极性的前提下,抽取出实体-方面-情感极性三元组。研究使用SemEval2016数据集验证模型的效果,并且在中文电商领域进行实证分析。
其他文献
近年来,凭借着对数字技术的灵活运用,互联网金融公司为客户提供第三方支付、线上理财、线上存贷款等创新的金融服务和金融产品。这些互联网金融产品和服务凭借着低门槛、方便快捷的特点,迅速完成了客户的积累和规模的扩张,对商业银行的业务产生直接或者间接的竞争。在传统的金融体系中,商业银行是金融市场上资金的供给者,因此在金融市场有着垄断的地位。互联网金融企业则打破了商业银行原本在金融市场的垄断地位,对银行业造成
学位
我国人均收入水平不断提高,仍然存在收入差距过大的问题。改革开放以来,我国居民人均可支配收入实现二十年翻三番,城镇新增就业人口连续7年超过1300万人,832个贫困县和12.8万个贫困村全部摘帽,现行标准下近1亿农村贫困人口全部脱贫,建成了世界最大的社会保障网,社会保障建设取得新成效。但也必须清醒认识到,我国中等收入群体的比重仍旧偏低,收入结构仍偏重“哑铃”型,且收入分配不均现象长期存在,收入差距依
学位
逻辑回归作为一种模型解释度高的分类算法,经常运用于很多领域中,可以得到很好的效果。不过,传统的逻辑回归在处理高维的且变量间相关性很强的数据时,效果不尽如人意。学者们提出过多种解决办法,正则化是其中效果较好的一种方法。本文拟采取正则化的方法,提出双权重弹性网-逻辑回归多步筛选算法。将一范数自适应权重、二范数相关性权重、多步迭代等思想引入逻辑回归模型的正则化惩罚中,实现逻辑回归在高维数据下获得稀疏解并
学位
社交媒体数据的体量随着网络技术的发展得到了飞速增长,而社交数据能够真实反映用户的心理、情绪等信息,除此之外对一些有害信息进行及时鉴别也是十分必要的。而随着移动设备的发展,越来越多的用户选择在社交媒体上分享自己的视频、图像、音频等数据,社交媒体数据已经呈现多模态化的趋势。然而对多模态数据进行分析仍然存在许多问题,主要包括了模态间数据表现形式不统一的问题以及模态间表征内容不统一的问题。受限于模态间数据
学位
随着计算机及其相关技术的发展,如何将数字化与文物研究更好地结合是很多研究者关注的热点问题。工业CT技术能够在不损伤文物的前提下得到文物的内部信息,通过这些信息可以实现文物的三维建模。基于CT断层图像进行三维建模的常用方法是面绘制算法和体绘制算法。本文主要基于面绘制的切片级重建算法展开研究,从轮廓对应、轮廓分支和轮廓拼接三个方面展开讨论。针对轮廓对应和分支存在多义性与不确定性问题以及轮廓拼接存在准确
学位
2020年初突然爆发的新冠肺炎严重影响了全球人民的正常生活。至今新冠疫情仍然不断反复,是21世纪以来人来面临的最大公共卫生危机事件。随着互联网技术的发展,在疫情防控的过程中新闻媒体起到的作用受到了专业人士的肯定。新闻传播在稳定民众情绪,引导正确的舆论导向以及帮助维持社会秩序上起到了重要的作用。目前有关新冠肺炎相关新闻的研究还处于初级阶段,主要研究都是通过新闻学的视角来研究媒体舆论导向以及新冠肺炎对
学位
“双循环”新发展格局于2020年5月中央政治局常委会会议首次被提出,引发学者热议。但当前学术界的研究主要集中于理论层面,需要更多的实证分析来对其进行验证。本文从内外需求的视角出发,对“双循环”新发展格局的相关概念进行了阐述及定义;然后基于全球价值链的GDP分解方法,结合本文对内外循环的定义建立新的模型,将一国的GDP分解为消费内循环增加值、投资内循环增加值、简单外循环增加值与复杂外循环增加值两大类
学位
随着计算机技术的不断发展,机器感知与人类认知也愈发趋于统一。在此背景下,传统的二维数据模型因已无法满足在计算机中对三维世界进行表达的需求,逐渐被三维数据模型所取代。在众多三维数字化模型中,由于点云模型具有易采集、几何特征丰富等特点,使其发展成为三维模型处理中一种极其重要的数据载体。然而,由于点云模型中各样本点的无序分布和缺少潜在的拓扑连接关系,使得点云模型的后续处理工作变得十分复杂,因此对三维点云
学位
随着智能手机等便携式GPS设备的普及,高效地收集包含丰富时空信息的旅客GPS数据成为可能。对大量的旅客GPS数据进行轨迹挖掘,一方面有助于管理部门理解城市旅客的出行模式,为交通调度、城市规划等宏观政策提供支持;另一方面,也能够帮助描绘旅客画像,服务于基于位置的广告推荐、旅客目的地预测等任务。本文针对GPS轨迹挖掘中的旅客轨迹分段、交通模式识别和目的地预测三个关键问题展开研究。主要贡献如下:(1)提
学位
金丝猴面部识别是金丝猴行为识别研究的重要前提,但基于金丝猴面部特征的个体身份识别面临诸多挑战,包括:不同金丝猴个体面部特征的相似性大以及新个体身份难以准确标记和识别等。为此,本文提出了分级集成网络(Hierarchical Ensemble Networks,HE-Nets)以及基于孪生网络和深度特征聚类算法的自监督新个体识别算法(Self-supervised New Individual Re
学位