文本分类问题的深度迁移学习算法研究与应用

来源 :西北师范大学 | 被引量 : 0次 | 上传用户:pengpeng88888
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在信息时代,社交网络、视频监控、智能交通等信息系统时刻产生海量的数据。如何在海量数据中找到有价值的信息,是人们持续研究的热点之一,而文本方面的信息挖掘需求更为突出。文本分类是文本数据挖掘领域的主要任务,近年来,深度学习算法以其强大的特征表达能力在文本分类任务中得到了普遍的应用。词向量是文本分类引入深度学习的基础,现有的Word2vec词向量模型没有考虑词性信息,不能很好的区分词义。此外,深度学习需要大量标定数据去学习潜在的数据特征。然而,构建一个大规模、高质量的标定数据集非常困难,这就导致数据不足时,深度学习造成过拟合现象。对此,本文主要研究以下内容:(1)构建基于词性特征的卷积神经网络文本分类模型(TextCNN based on POS Features,POS-TextCNN)。针对Word2vec词向量模型没有考虑词性信息的问题,本文模型在经典的文本卷积神经网络模型的输入层增加具有词性特征的文本表示输入层,与词向量表示形成双通道输入,以解决Word2vec模型不能区分多义词的现象。在亚马逊商品评论数据上的情感分类实验表明,该模型的查准率、查全率和F1值均高于TextCNN模型,说明具有词性的文本表示在POS-TextCNN模型中具有一定作用。(2)提出基于POS-TextCNN模型的迁移学习算法(Transfer POS TextCNN,Tr-POS-TextCNN)。针对POS-TextCNN模型在数据不足情况下易造成过拟合现象,本文引入迁移学习的思想,迁移源领域相关知识以保证模型分类的准确性。在亚马逊商品评论数据上的跨域情感分类实验表明,与其他迁移学习算法相比较,该算法比最优的算法准确率提升了1.92%~3.28%。此外,本文还对POS-TextCNN模型的迁移学习和非迁移学习算法的优越性、模型参数的敏感性和准确性以及迁移学习中目标领域训练样本量对算法分类效果的影响进行了实验探究,得出了相关结论。(3)设计并实现基于Tr-POS-TextCNN算法的商品评论分类系统。商品评论数据存在标定数据获取难和数据时效性问题,将本文算法应用于商品评论分类系统的跨域情感分类,证明了本算法的有效性和可行性。
其他文献
目的:初步探讨正清风痛宁在佐剂性关节炎(AIA)模型大鼠体内的药动学特性;并系统评价正清风痛宁单用及其联合用药治疗类风湿关节炎(RA)的有效性及安全性。方法:通过建立AIA大鼠模
德化古瓷窑是我国南方历史悠久、工艺独特的名窑之一。它的产品装饰丰富多彩,工艺精湛,造型美观,在人民生活中有较高的实用价值。宋元以来远销许多国家,为我国对外经济、文化
会议
我们要实现中华民族伟大复兴的中国梦,推进党的建设伟大工程,推进中国特色社会主义建设的伟大事业,绝不是轻轻松松、敲锣打鼓就能实现的,必须要进行伟大斗争。重温毛泽东、邓
目的检测线粒体自噬蛋白PINK1/Parkin在肾透明细胞癌及癌旁组织中的表达情况,并探讨其临床意义。方法选取2018年10月2019年10月就诊于xx医科大学总医院泌尿外科,术前诊断为肾恶性肿瘤并接受手术治疗的患者新鲜肿瘤组织及配对癌旁(2cm)正常肾组织、空腹静脉血及相关临床资料,术后经病理学诊断为肾透明细胞癌共50例。分别通过免疫组织化学染色(IHC)法和免疫印迹实验(Western Blo
2020年11月30日,由中共上海市委党校(上海行政学院)与上海市城市运行管理中心共同主办的首届城市治理高峰论坛在沪召开。与会专家围绕"数字化治理与智慧政府建设"这一主题展
11月27日下午2:30,位于泉州鲤城区美食街内的六艺学堂内飘出阵阵茶香,传出致公党鲤城区工委机关支部副主委高菲菲声情并茂的"讲古"声——这是致公党鲤城区支部"党员之家"的活
期刊
为评估电网运行的安全性水平,全面提升电网安全稳定的供电能力,采用基于逼近理想排序法的综合评价分析数学模型,结合历史数据进行算例分析,结果表明,模型拟合效果较为理想,能
目的:观察右美托咪定(Dexmedetomidine,DEX)预处理和后处理对H9C2心肌细胞缺氧复氧(Hypoxia/reoxygenation,H/R)性损伤后HIF-1α的表达和细胞凋亡的影响。方法:体外培养H9C2
中华民族在长期的形成发展过程中,形成了以"大一统"理念为核心的"华夷一体"族群观。一般而言,"华夷一体"族群观之"大一统"理念主要涵括"天下一统"的疆域观、"王权一统"的政治
在构建具有陕西特色的多种类、多层次的教学课程体系的过程中,国网陕西省电力公司党校采取了锐意探索与弘扬传承双核驱动的模式,即以理论创新引领,依托丰厚的党建教育历史资