基于注意力机制和SVM的GRU短文本情感分析研究

来源 :天津财经大学 | 被引量 : 1次 | 上传用户:cbir
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年来,互联网行业快速发展产生了大量的网络短文本,这些文本中隐含着丰富的信息,分析这些文本中所蕴含的情感信息对社会舆情分析、产品营销以及股价预测等相关领域的决策都起到了巨大的作用。因此,针对在线文本的情感分析研究是具有重要的实际指导意义。随着文本数据规模的不断增加,通过人工标注的方法对其进行分类往往需要大量的人力,同时短文本数据具有特征稀疏的特点,用传统方法进行分类效果并不理想。针对以上问题,提出了 一种基于注意力机制和支持向量机(Support Vector Machine,SVM)的门控循环单元网络(Gated Recurrent Unit networks,GRU)短文本情感分析模型。本文的主要工作如下:(1)针对情感词典法与传统机器学习的方法所存在的问题,提出了基于深度学习的短文本情感分析模型。比较了几种典型的深度学习模型结构,为了获得更好的上下文信息,提高模型训练速度,提出了基于注意力机制的双向GRU模型。该模型利用word2vec模型将文本转化为包含语义信息的向量,然后将两个单向的GRU模型前后堆叠,并融入多注意力机制。通过将注意力分别插入到输入层后以及分类层前,实现了对无关特征的弱化。实验证明,改进后的模型在中文酒店评论数据集上取得了较好的分类效果,准确率与双向GRU模型相比提高了1.7%。(2)针对短文本存在的特征稀疏等问题,提出了一种结合SVM的文本情感分析模型。该模型以双向GRU模型作为特征提取器,然后使用SVM构建分类器,将双向GRU模型的输出向量作为SVM模型的输入。改进后的模型能够利用SVM的鲁棒性强和准确率高的优势,有效提升了模型性能。实验结果验证,分类器的改变和注意力机制的加入使得原GRU神经网络模型的性能得到了有效提升,分类的准确率达到了 88%,相比于传统的分类模型,该模型在准确率上具有更好的表现。
其他文献
荔枝是最具岭南特色的佳果,然而极易失鲜,它的外壳常常不到24小时便会变黑。由于果壳变色而不能上市或贱卖,导致果农和经销商蒙受了一定的经济损失。针对这一问题,专家们经过多年
中共十八大报告提出“努力建设美丽中国,实现中华民族永续发展”,把生态文明建设纳入社会主义现代化建设总体布局。重庆地处长江上游、三峡库区,生态环境脆弱,推进生态文明建设尤
“11月27日下午,习近平总书记来山东省农科院时,我正在农科院信息平台演播室接听聊城东阿县一位农民朋友打来的电话,咨询冬季小麦管理的事。习总书记先和我们大家一一握手,听完农
计算机技术在当下已得到了极为广泛的运用和实践,对人们的生活、学习以及生产工作产生了很大影响。日常生活生产当中,为了促使计算机能够展现其生命力以及发挥其功能,同时为
目的:中风是现实生活中常易发生的一种疾病,而中风后抑郁又是患者在临床中常见的一种并发症,其主要的临床表现为焦虑、失落、失眠、暴躁等多种情感变化。中风后的患者其病位在脑,起病后损伤气血,而中风后抑郁的出现更不利于病情的恢复,导致恶性循环而出现病情预后不良甚至复发。目前针对缺血性中风后抑郁临床治疗多以舍曲林、百忧解等抗抑郁类西药为主。因此,及时有效地治疗缺血性中风后遗症患者的精神、情感障碍尤为重要。靳
买岛并不算是耸人听闻的事。在岛屿买卖中介的清单里,有些小岛3万美元就能买到,细密如盐的沙滩里没有一个脚印。对房价直逼纽约、伦敦的中国人来说,消费的心理承受能力也在加强。现代的岛主们正在利用领地来积累财富和扩大影响力。    那些岛主里面有巨商,有明星,也有营营役役的软件工程师。抛开GDP里面的虚虚实实不谈,中国富人的购买能力并不比他们差。2007年10月9日,上海中州国际控股集团总裁胡宾与迪拜纳克
01 光明食品拟收购澳大利亚最大炼糖厂    近日,总部位于上海的光明食品(集团)有限公司表示,已经和澳大利亚公司CSR Ltd,接触,提出以最高15亿澳元(合14亿美元)的价格收购该公司糖和可再生能源业务。此前,先后有兖州煤业、五矿集团、紫金矿业等多家国内公司在澳大利亚投资能源与采矿行业。  根据报道称,此次光明食品将通过旗下公司烟糖集团完成此次收购,糖业是烟糖集团三大主业之一,有分析认为,光明
意群意识在英语学习中具有举足轻重的意义。当下教育界人士也在不断地提倡在英语教学中加入意群教学环节,以此来促进教育质量的提高。然而,意群教学似乎并未达到人们预期的效
在福建事变前夕,中国农工民主党为了更方便于策划并组织领导和参与福建事变,农工党中央机关曾一度搬迁至福建办公,具体地址是:福州黄巷28号(原黄巷32号)。著名的福州三坊七巷中
截至2009年7月3日收盘,我国期货市场今年来总成交额为50.8万亿。仅用了半年多一点的时间,我国期货市场就超过了50万亿大关,这一数字也已经是2008年交易额的72.4%。其中,截至目前,上海