【摘 要】
：
目前通过深度学习方法进行语言模型预训练是情感分析的主要方式,XLNet模型的提出解决了BERT模型上下游任务不一致的问题。在XLNet基础上增加LSTM网络层和Attention机制,提出XLNet-LSTM-Att情感分析优化模型,通过XLNet预训练模型获取包含上下文语义信息的特征向量,接着利用LSTM提取上下文相关特征,最后引入注意力机制根据特征重要程度赋予不同权重,再进行文本情感倾向性分析。仿真实验中将XLNet-LSTM-Att模型与5种常用的情感分析模型进行对比,结果表明提出的模型优于其他测试
【机 构】
：
桂林理工大学信息科学与工程学院,广西嵌入式技术与智能系统重点实验室
【基金项目】
：
国家自然科学基金(61762031),广西科技重大专项(桂科AA19046004),广西重点研发项目(桂科AB18126006)。
论文部分内容阅读
目前通过深度学习方法进行语言模型预训练是情感分析的主要方式,XLNet模型的提出解决了BERT模型上下游任务不一致的问题。在XLNet基础上增加LSTM网络层和Attention机制,提出XLNet-LSTM-Att情感分析优化模型,通过XLNet预训练模型获取包含上下文语义信息的特征向量,接着利用LSTM提取上下文相关特征,最后引入注意力机制根据特征重要程度赋予不同权重,再进行文本情感倾向性分析。仿真实验中将XLNet-LSTM-Att模型与5种常用的情感分析模型进行对比,结果表明提出的模型优于其他测试
其他文献
针对在不同车速下由于车辆动力学参数改变导致轨迹跟踪的误差变大的问题,研究电动汽车自适应性轨迹跟踪控制器设计。首先,基于模型预测控制(model predictive control,MPC)设计轨迹跟踪控制器,对比分析不同车速下不同预测时域对轨迹跟踪的影响;其次,通过仿真结果,发现不同车速下采用恒定预测时域,轨迹跟踪在不同速度下自适应性变差,易产生较大的跟踪误差;最后,设计了基于车速变化的变预测时域轨迹跟踪控制器。CarSim/MATLAB/Simulink联合仿真结果表明,改进后的轨迹跟踪控制器在不同车
针对室外街道的行人检测与跟踪,提出一种改进YOLOv3与简单在线实时跟踪(simple online and real-time tracking, SORT)算法相结合的检测及跟踪方法。首先,引入距离和比例交并比(distance and proportional-IOU,DPIOU)损失,将原有的损失函数中的均方误差(mean square error, MSE)部分进行变化,从而得到更精确的
构建了涵盖水资源、经济社会和生态环境3个子系统的评价指标体系,采用层次分析法和熵权法确定评价指标的组合权重,利用灰色关联-逼近理想解排序法(technique for order preference by similarity to an ideal solution,TOPSIS)对甘肃省2010—2019年水资源承载力进行了综合评价,并利用障碍度模型诊断了影响甘肃省水资源承载力的主要障碍因子。结果表明:2010—2019年甘肃省水资源承载力整体呈逐步上升的趋势,但仍处于超载状态;水资源子系统对甘肃省
运营安全评估是保障轨道交通网络化安全运营的关键环节之一。基于熵权可拓物元模型提出了一种轨道交通线网运营安全评价的方法。该方法通过统计分析轨道交通线网历史运营情况,构建运营安全评价指标体系;利用数理统计划分评价指标的经典域;利用熵权模型计算指标权重;并利用可拓物元模型计算轨道交通线网的综合评价值和风险等级。研究结果表明,所构建的轨道交通线网运营风险评估的指标体系切实可行,基于熵权可拓物元模型提出的评价方法能客观有效地评估线网的运营风险。
为了实现卫星的高精度高稳定度控制,中法天文卫星建立了卫星姿轨控半物理仿真试验系统。对该系统采用导星电子星图模拟器引入仿真闭环进行研究。首先,将导星敏感器作为高精度姿态测量部件引入控制系统,地面动力学为其提供输入信息。接着,高精度测量单机和高精度控制机构引入到闭环中。然后,粗测量敏感器和粗控执行机构由数学模型替代。最后,通过地面实时系统将控制系统、星务计算机、载荷计算机和整星电源系统组成了实时仿真验证系统。实验结果表明:在地面半物理条件下,可以达到导星进入开小窗条件,y、z轴稳定度达到2(″)/10 s及5
高位水平钻孔瓦斯抽采技术是解决矿井瓦斯危害问题十分有效的工程技术手段。瓦斯抽采水平钻孔施工层位需要布置在覆岩采动裂隙带发育范围内,而复合顶板的采动裂隙带发育范围往往难以确定,导致钻孔施工层位不准确严重影响瓦斯抽采效率。为研究覆岩采动裂隙发育范围,精准确定水平钻孔布置层位,依据煤层开采覆岩变形破坏一般特征,采用钻孔电阻率法对李雅庄煤矿2607工作面开采覆岩裂隙发育特征进行动态监测,分析了不同采动时段的视电阻率响应特征和变化规律,得到覆岩裂隙发育分布的主要层位。研究表明:裂隙带主要发育范围位于煤层顶板26~4
植物-微生物联合修复是一种经济可行且生态良好的重金属污染土壤修复方法。通过盆栽试验,探究接种枯草芽孢杆菌对两种草坪植物(早熟禾、紫花苜蓿)去除土壤中镉效率的影响及机制。结果表明,种植早熟禾时,枯草芽孢杆菌能够阻隔早熟禾吸收镉,显著提高生物量,增加土壤酶活性,降低土壤有效态镉含量,并且将土壤中总镉的去除率提高约49%;对于紫花苜蓿,枯草芽孢杆菌能够促进紫花苜蓿吸收镉,显著提高生物量,增加土壤酶活性、微生物物种多样性以及有效态镉含量,并且将土壤中总镉去除率提高约140%。可见,接种枯草芽孢杆菌对两种草坪植物修
通过三聚氰酸的次氯酸钠氧化,研究了溶液p H、次氯酸钠投加量、反应温度和反应时间对三聚氰酸溶液TOC去除率的影响,比较了次氯酸钠氧化、芬顿氧化和催化臭氧化的氧化效果。结果表明:次氯酸钠氧化的TOC去除率最高,达84%,总氮质量浓度最低,仅21 mg·L-1。
饲料营养价值评定是配制畜禽优质日粮的基础,传统的测定方法检测指标繁杂,人员及时间成本较高,不适用于养殖生产企业以及饲料生产企业批量化检测。近年来,随着科学技术的不断发展和完善,近红外光谱技术日趋成熟,且在畜禽饲料营养价值评定中起到了积极作用。本文综述了近红外光谱技术在畜禽饲料营养价值评定的应用,以期为快速预测畜禽饲料营养组分提供基础条件,为创环保型实验室提供理论依据。
活动翼面偏转过程中所承受的动态气动载荷大小随运动状态不断变化,方向始终垂直于翼面弦平面.为了真实模拟活动翼面运动过程中真实受载状态,活动翼面功能试验加载过程需与翼