基于GPT和Attention的方面级情感分析

来源 :吉林大学 | 被引量 : 0次 | 上传用户:aini412319016
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络的普及以及智能设备的广泛使用,海量关于各种事务的文本评价存在于网络当中,并且随着时间的递增,文本的数量也在呈指数形式爆炸增长。这些海量的评价文本蕴含着更加深层次的意义,也就是说这些文本包含着发布者对于一些事情和物品的真实看法和评价,并且随着文本数量的增加,这些文本所整体呈现出的对于事物的情感倾向也就越加真实。基于以上的真实情况,对这些文本进行分析是极具价值的一种行为。因为不管是对于商家根据客户制定最佳的营销策略还是根据用户对于商品的情感倾向决定是否改进商品,又或是帮助政府部门进行舆论监管,防止舆论爆炸都有着十分重要的辅助意义。因此近些年来大批的人才投身到这个领域,并且取得了众多傲人的成绩。并且随着现实精度要求的不断提高,方面级情感分析也应运而生。本文提出了一种基于GPT和双向GRU网络的方面级情感分析模型。文本的词嵌入方式对于深度学习模型的效果有明显的影响,为了增大词嵌入方式对于模型效果的正向影响,近些年来出现了大量的词嵌入方法。在现阶段比较常用词嵌入方法中,基于词向量的固定表征如Word2vec、Glove不能解决一词多义的问题,为了取得更好的效果,在本文中选用基于词向量的动态表征方法作为词嵌入方法。基于Transformer的GPT预训练模型作为一种词向量的动态表征方法可以很好的解决一词多义的问题,并且能够更好的提取文本的上下文语义特征。为了让词向量具有更加丰富的语义,在本文中采用了GPT加方面编码的方式。在获取到词向量后我们将其输入到多层的带有注意力机制的双向GRU网络中。相对于只是单向的从前往后输出的神经网络,双向GRU网络能够建立起当前时刻的输出与前一时刻以及后一时刻的联系,这样就可以获取文本的深层次特征,并进一步使重要信息更加突出。最后在输出层将利用Softmax函数进行分类,得到情感分类的最终结果。本文实验所采用的数据集是在方面级情感分类中比较经典的三个数据集,分别为Restaurant、Laptop以及Twitter数据集。这三个数据集是运用于方面级情感分析的标准数据集,十分符合我们当前的实验需求。在文中的实验部分首先对于几种词嵌入模型在Laptop数据集上进行了实际的实验对比,实验结果充分证明了GPT的优越性。其次我们将这三个数据集在本文的方面级情感分析模型上进行试验,经过实验结果的对比,相较于其它模型本文中的模型在效果上有不同程度的提升。最后为了使得模型的性能达到最好,同时也是为了验证超参数对于模型的重要性,在实验中还对模型的超参数进行了优化。
其他文献
<正>一、研究背景体能是参赛的入场券,科学化的体能训练是挖掘人体极限运动潜力的关键,也是提升运动表现的重要抓手。人类对体能训练科学化的探索先后经历经验探索、多学科学研究应用于体能训练实践、基于科学循证的体能训练三个阶段,目前基于科学循证的体能训练逐渐成为国际体能训练发展的新趋势。运动生理学家、运动生物力学、脑科学专家等领域的专家从多个专业视角对体能训练进行深入的研究,产出了大量高质量的研究成果,这
<正>2021年,为了解决团结社区周边的停车问题,展览路街道、责任规划师、社区干部多次和居民座谈了解需求,发动楼门长、退休党员干部等多种途径,逐户开展停车需求排查。我们团结社区是老旧小区,停车难是当前的大难题,责任规划师团队的老师、学生和我们充分交流,了解居民的诉求,连续半个月的时间每天从早到晚持续记录出入的车辆信息,我们也会一起帮助社区有车的居民登记入册,为了日后的停车管理能更顺利,协助进行摸底
期刊
在我国经济增速放缓、商业地产整体供应过剩的大背景下,购物中心市场竞争日趋激烈,再加之互联网的冲击、零售业进入移动时代,不断加剧的竞争压力使得购物中心开始寻求新的出路。当前,“文化+旅游+商业”融合带来更多发展机遇,文商旅是从满足居民及游客多元休闲消费需求出发,通过食住行游购娱等相关要素的业态创新组合,创造多元化的消费场景并打造一站式的服务结构,升级文旅项目体验质量。因此购物中心开始探索业态组合升级
目的:探究天冬多糖的结构特征、免疫调节活性和体外抗氧化活性,为后续天冬多糖研究提供依据。方法:采用水提醇沉法提取天冬粗多糖,Sevage法脱蛋白和分级醇沉法对脱蛋白后的多组分多糖进行分离,苯酚-浓硫酸法测定其糖含量;采用高效凝胶渗透色谱法测定其相对分子质量,高效离子色谱法测定其单糖组成;采用红外光谱法分析其结构;对于均一分子质量的80%醇沉多糖分级产物(以下简称TD-80),采用小鼠脾淋巴细胞和巨
面对我国高端医疗设备长期依赖进口的局面,“国产化”已成为国内医疗器械行业高质量发展的重中之重。北京航天长峰股份有限公司创新国际合作方式方法,在购进德国高端重症治疗呼吸机生产线的同时,对其核心技术、生产工艺进行再创新,实现了高端呼吸机国产化,成功填补了国内高端呼吸机领域空白,为医疗器械国际合作探索出一条有效路径。
当前,赏识教育蓬勃发展,教育惩戒被弱化,体育惩戒作为教育惩戒的一种方式也遭到了强烈的反对。教育实践中惩戒的缺失导致了校园欺凌、校园暴力、学校秩序遭到破坏等一系列问题,合理的惩戒对于学生的成长具有一定的价值,教育实践亟待一场"惩戒复归"运动。身体哲学视角下的体育惩戒不同于体罚,它有其自身的价值与正当性,是一种相对理想的惩戒方式。研究目的:本文基于身体哲学的视角,探析体育惩戒的意义,以期丰富学校惩戒教
近年来,财务共享模式在企业财务转型中的作用日益显现,为企业降本增效、集中管理和业财融合提供了技术和管理上的支持。随着财务共享模式在企业的不断推广,在获得共享服务的同时,不少企业也关注到了潜在风险。相关研究和企业的实践都表明,做好财务共享服务中心建设和运营中的风险管理具有十分重要的意义。文章对战略风险、管理风险、技术风险和合规风险进行了分析,提出应对策略,并结合案例阐述了具体的风险管理方法,以期对企
高校毕业生就业是大学生由学校迈向社会的重要转折点,也是关系整个社会繁荣稳定与个人未来发展的头等大事。如今,伴随新冠肺炎疫情阴霾的持续笼罩、动荡不安的国际形势及再创新高的高校毕业生规模,毕业生的就业压力空前巨大。文章从社会、家庭、学校、个人四个层面为切入点,针对大学生就业压力大的成因进行了分析,并提出了相应的解决策略,以助推大学生成功就业。
执行功能是幼儿诸多方面发展的心理基础,电子媒体对幼儿执行功能的发展有着重要影响。本研究采取间隔6个月、持续1年的追踪设计,利用交叉滞后分析,验证看电视对幼儿执行功能的即时与长时影响。结果发现,随着时间的推移,幼儿12个月后的执行功能得分显著高于幼儿在研究开始时和6个月时的执行功能得分;在研究开始、6个月和12个月这3个时间点上,幼儿周末看电视的时间都显著多于平时;在这3个时间点上,幼儿每周看电视时