面向属性级情感分类中注意力学习的研究

来源 :厦门大学 | 被引量 : 0次 | 上传用户:luozd
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
属性级情感分类作为情感分类任务中一项不可缺少并且更细粒度的任务,旨在对输入句子中的每个属性的情感极性(正向情感、负向情感、一般情感)进行自动预测。在属性级情感分类任务中,为了获得每个上下文词在特定语境上的重要程度,主流模型通常会在神经网络中加入注意力机制。然而,这种注意力机制往往只关注少数具有情感极性的高频词,忽略了许多低频的重要单词。另一方面,由于属性级情感分类任务的语料较少,也大大增加了神经网络的训练难度。针对以上问题,本文提出了以下两个新的模型:1.提出了一种融入渐进式自监督注意力学习的属性级情感分类模型。具体地,在每次迭代中,针对每个实例,根据上下文词的注意力权重找出对情感预测影响最大的上下文词,然后将其提取为对实例的正确/错误预测具有积极/误导影响的上下文词。为了利用它们来改进属性级情感分类模型,本文在传统训练目标的基础上增加了一个正则化项,该正则化项鼓励模型不仅同等地考虑对模型预测有积极影响的上下文词,而且降低了那些误导性词的权重。2.基于大规模文本语料库预训练的语言模型BERT的属性级情感分类模型。预训练模型BERT能够帮助缓解分类模型语料不足的问题。在此基础上,本文还提出了一种基于梯度的上下文词显著性度量方法,用于基于BERT的分类模型中识别出重要的上下文词。本文将这两种方法与目前广泛使用的属性级情感分类对比模型进行了比较,并通过实验分析验证了所提方法的有效性。
其他文献
本文利用我国高铁开通对企业现金持有预防性动机产生的外生变化,从现金持有这一切入角度探讨地理区位对公司财务决策的影响。高铁开通降低了地理引致的劳动力要素流动成本、信息采集成本,提高了人力流动性、减缓了信息不对称,可能会增强或削弱公司为了在人才市场上保留竞争优势、抑或是避免融资约束而持有现金的动机。通过对2007-2018年非金融行业的上市公司进行分析,本文发现高铁开通后公司现金持有显著增加,全国所有
学位
近年来,“宝万之争”引发上市公司在公司章程中增设或修改反收购条款的热潮引起了实务界和监管层的广泛关注,反收购条款的潜在经济影响成为了一个有待深入探索的重要研究课题。研发创新是企业长期发展的动力来源,探察反收购条款与企业研发创新活动的关系是理解反收购条款潜在经济影响的重要方面。基于此,本文以增设或修改了反收购条款的上市公司为研究对象,通过收集2007-2019年中国A股上市公司的年度观察样本数据,采
学位
中国是世界上钨资源储量最丰富、也是各类钨制品出产量最大的国家。中钨在线正是在中国丰富的钨资源基础和互联网技术与应用蓬勃发展的环境下应运而生。随着第五代移动通信技术、工业互联网、大数据技术的成熟,国内钨企业逐步由传统的线下营销转向网络营销。尤其自新冠疫情发生以来,线下营销的难度更大、成本更高,终端客户也更倾向于转向线上这种便捷的途径寻找供应商。这无疑对于以电子商务出身、深耕网络营销的中钨在线是个危机
学位
中国加入WTO后,积极履行金融行业对外开放的承诺,为外资银行在国内的快速发展提供了良好的必要条件。H银行(中国)有限公司(下称“H银行(中国)”)是最早进入中国大陆市场的外资银行之一,在中国境内的资产规模不断扩大,但受到资源、定位、风险偏好等限制,目前市场份额依旧很低。贸易融资是商业银行的主要业务之一,能帮助商业银行创造收益、优化信贷结构、降低风险。在当前复杂且充满激烈竞争的市场环境下,H银行(中
学位
改革开放引领我国经济进入发展的快车道,中国普通老百姓的生活变得越来越好。与此同时,保险行业也迎来了发展的新时代。对于保险企业而言,当前面临的最大的挑战是人才的识别、甄选、任用及留存的问题。就我国保险市场的现状来看,保险的销售模式还是以代理人也就是我们所说的营销员的销售方式为主。然而,由于我国保险业自诞生以来,保险营销员的甄选方式都比较粗放,入行门槛低,文化素质普遍不高,人员流动性大,误导销售的情况
学位
房价与人们生活和经济发展紧密相关,深受广大居民、企业、学者和政策制定者等的密切关注。土地是房地产业的重要组成部分,随着我国税制改革、土地市场改革、房产改革等制度建设的推进,土地的有偿使用和房产相关的税费给地方政府带来了高额的收益,成为财政收入中的重要组成部分。围绕土地所形成的收支关系即为“土地财政”。在经济快速发展和城镇化进程加快的背景下,土地财政和政府的调控政策共同对房价产生影响。本文基于200
学位
随着计算机科技的飞速发展,金融公司的软件和交易所的技术不断地更新迭代,新技术的广泛运用,促使依托算法模型的量化交易逐渐成为了一种新的高频交易方式,也为投资者带来了一种新得投资理念,投资决策更趋理性,越来越多的投资人开始运用量化投资交易和程序化交易。尽管现在量化交易平台的功能越来越完善,研究量化投资交易理论的文献也越来越多,但由于量化交易策略的保密性,真正可以供投资者入门和研究学习的策略一般都是非公
学位
在过去的20年中,单分子技术得到了飞速发展,这些前沿技术通过促进单分子操作和检测,彻底改变了生物学研究。在最近十年中,SH3结构域已作为许多信号转导和细胞骨架蛋白的胚间部分出现,并已显示出介导了无数种蛋白-蛋白相互作用的功能。除了它们作为蛋白质衔接子的生物学重要性外,它们独立折叠的能力,适中的大小以及缺乏二硫键等特性使SH3结构域成为一种吸引人的模型系统,可以最简单地理解蛋白质折叠的原理。使用盐酸
学位
近年来,深度学习在分类任务上取得了令人瞩目的效果。经典的深度学习模型假设训练和测试数据遵循独立同分布准则,然而,现实应用任务很难达到独立同分布的假设并导致模型性能下降。为了解决带标签样本稀缺、模型泛化能力不足的问题,域泛化被提出来并受到了广泛的关注。其中,基于元学习的域泛化方法通过模拟域差异来提高模型的泛化能力,取得了良好的性能表现。但是,当前基于元学习的域泛化模型受限于传统的情景训练方式,接触的
学位
声学多普勒流速剖面仪(Acoustic Doppler Current Profile,ADCP)是一种利用声波散射的原理实现流速测量的新型测流仪器,已广泛用于海洋学研究和海洋应用开发。它可以实现高精度、远距离的测流,是水文监听、海洋观测、国防建设、水路导航的重要基础,因此对多普勒流速剖面仪的研究具有重要意义。本文主要围绕多普勒测流的发射信号与接收处理算法展开研究。在前人的研究基础上,改进了经典宽
学位