【摘 要】
:
互联网的快速发展使得更多的人在网络上表达自己的情绪、态度和看法,因此形成了大量的舆情文本。如何从海量的舆情文本中挖掘分析民众情感态度,为引导舆论方向和舆情的监控预
论文部分内容阅读
互联网的快速发展使得更多的人在网络上表达自己的情绪、态度和看法,因此形成了大量的舆情文本。如何从海量的舆情文本中挖掘分析民众情感态度,为引导舆论方向和舆情的监控预警提供支持,成为了比较热门的研究方向。情感倾向性分类作为处理舆情文本的有效手段也受到了学者的广泛关注。当前,基于深度学习的情感倾向性分类方法获得了不错的效果,注意力机制的引入更进一步提高了分类的精度。但是,现有的融合注意力机制的方法大多只关注了词语语义信息的学习,对词性信息的学习关注较少,忽略了词与词性之间的情感联系,而且分类精度也有待提升。此外,实际场景中普遍存在的数据不平衡问题会干扰模型的训练,从而影响情感倾向性分类的效果。因此,本文展开了如下研究:(1)将Focal Loss引入到情感倾向性分类中,动态地调节训练过程中各类样本在loss中所占的比重,减少多数类样本对loss的贡献,使模型更关注少数类样本的学习。(2)针对现有深度学习方法词性信息利用不充分问题,提出了一种融合词性和自注意力机制的情感倾向性分类模型(Part-of-Speech based Transformer Attention Network,pos-TAN)。该模型选用了Transformer Attention Network(TAN)作为基础网络结构,采用自注意力机制来进行文本特征表示,而且将词性信息融入到网络的不同层次中,结合词性注意力(POS-Attention)来重点关注词性中蕴含的情感信息的学习。(3)为了使pos-TAN模型保持轻量的同时还能有较高的分类准确度,本文借鉴知识蒸馏技术,将预训练后的BERT模型作为teacher模型来指导pos-TAN模型进行训练,使得pos-TAN模型通过蒸馏学习到BERT模型的参数和泛化能力。(4)舆情文本情感倾向性分类系统的原型设计与实现,将情感倾向性分类技术应用到实际场景中,对舆情文本进行情感倾向预测和分析。实验结果表明,Focal Loss的引入使得TAN模型在各数据集上的分类准确率提升了0.5%到0.8%,词性信息的融合使其进一步提升了1%左右。而且pos-TAN模型在与baseline的对比实验中,在五个数据集上都表现得不错。此外,经过BERT蒸馏过的pos-TAN模型能够以较小的参数量和更快的推断速度达到比较接近BERT的预测效果。
其他文献
协商行为在幼儿社会性发展中扮演着重要的角色。系统深入研究儿童协商行为的发生和发展,既能丰富协商行为理论,又能完善儿童社会性发展。建构游戏是幼儿最喜欢进行的游戏之一,在游戏中,他们既能自由地发挥自己的想象,同时也会一起商量、交流,这为协商行为的发生提供了条件。在本研究中,研究者首先采用了传统的文献法,通过上网查阅搜集资料并认真阅读大量的相关书籍,收集与本研究密切相关的信息和资料,并对其进行了整理和分
白族扎染作为白族地区历史悠久的民间传统手工艺术,成为第一批国家级非物质文化遗产,体现了白族独特的民族文化,也使得白族扎染及文化得到了认可与保护。同时,白族扎染蕴含着白族人的意志与品格,是白族文化和白族人民创造力的体现。白族扎染具有文化价值、艺术价值、教育价值、社会价值等教育内涵。将白族扎染民间艺术资源融入进幼儿园课程中,有助于白族地区幼儿园本土特色课程的开发,促进幼儿多方面的发展,并传承本民族艺术
中国经济进入“新常态”,如何在经济低速发展形势下维持我国对外贸易的平稳健康发展成为眼下一个亟待解决的问题。而稳定出口不仅需要对已有出口关系进行巩固和深化,更要勇于
龙口XC烟草直营店建设项目持续的周期长、投资大,施工建设也会受到内外部环境的影响,面临招投标、规划设计、施工、项目结算等一系列风险。风险管理对于降低项目风险事件发生
衰老是一种随着时间推移而出现的人体生理功能退化的自然现象。随着老龄化人口增加,抗衰老机制的探索和抗衰老药物的研发越来越受到社会关注。VD3是一种重要的类固醇衍生物,具有多种生理功能,在骨质疏松症、佝偻病、心脑血管疾病、自身免疫系统疾病、多发性硬化症和癌症等疾病中具有重要作用。近期研究发现,VD3在抗衰老方面具有一定的生物学功能。本课题前期发现VDR-/-小鼠伴有脱毛、体型佝偻、发育迟缓、个体矮小和
阅读教学是语文教学重要的一部分,《义务教育小学语文课程标准(2011版)》关于“阅读教学”明确指出,阅读是学生的个性化行为,应引导学生主动钻研文本,加深理解和体验,加强阅读方法的指导。小学高年级学生正处于阅读能力发展的关键阶段,学生习得一种高效的阅读方法是促进学生阅读能力提升的有效手段。而批注式阅读教学是一种实用性很强的阅读教学方法,它改变了学生仰视解读文本的心理习惯,倡导学生个性化地解读文本,尊
幼儿在游戏中的合作是一种重要的交往活动,是幼儿社会性发展的重要内容,幼儿借助一定的合作策略完成合作。幼儿合作行为,即合作的幼儿双方在游戏中建立共同的合作目标,通过协调、配合、计划分工等合作策略的使用,最终完成合作目标的行为。结构游戏,指幼儿通过运用结构游戏材料,依据自身兴趣喜好来进行建构、创作物体的游戏。目前对幼儿合作的研究集中在合作能力发展、促进实验研究上,国内关于幼儿同伴合作行为的研究基本上是
台风灾害是全球范围内影响最严重的自然灾害之一。中国台风灾害频发,台风登陆中国沿海,会对所途经的区域造成巨大的破坏,导致人员伤亡受灾、房屋倒塌、农作物绝收、大量财产
泰国和中国之间的关系长期以来一直很牢固,及是国家的友好邻邦。咱们的国家相互交流文化,信仰和生活方式。但是唯一无法传达的是“语言”。对泰国人来说,中文是一种新的外语,不是泰国的基础教育课程,在泰国汉语只是选修课或者补课。汉字是从图片中的字符变为笔画,从人类的想象力发明了汉字写像一幅画。汉字不能把至少两个单字或者几个单字混合在一起会朗读和有意义。虽然汉字中有拼音帮助学习者发音,但是一个拼音的发音会有不
函数是中学数学中的一个重要概念,不仅标志着代数中常量到变量的一大转变,也是每年中考命题的重要内容,所占试卷分值普遍偏高,是初中生学习的重点。函数知识相较于初中阶段的其它知识而言,十分抽象且不易理解,是学生学习的难点。但传统的函数学习评价多以考试分数为依据,侧重量化而非质性评价,因此,基于SOLO理论,并结合数学核心素养对九年级学生函数学习的评价有一定意义。本研究的内容包括以下几个方面:第一、应用S