改进的卷积神经网络模型在文本分类上的应用

来源 :山东科技大学 | 被引量 : 0次 | 上传用户:qishikdjj
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着电脑硬件和互联网社会的快速发展,人们接收并创造的信息体量也呈现指数级增长,极大的促进了深度学习技术的发展,带来了新一波的人工智能浪潮。在这波发展中,自然语言处理成为了人工智能领域中的一个重点研究方向,旨在研究人机之间用自然语言进行有效通信的理论和方法。用自然语言与计算机进行通信,有着十分重要的实际应用意义,也有着革命性的理论意义。现代常用于文本分类的深度学习算法有循环神经网络(RNN)及其变种的网络模型、卷积神经网络(CNN)及其变种的网络模型,相比于传统的机器学习方法具有更好的性能与效果,但现有的卷积神经网络模型并没有利用好人类积累了多年的海量知识,同时对于同一句子内部的词与词之间的内在联系和依赖关系的挖掘也不够充分。本文针对卷积神经网络在文本分类任务上存在的这些不足之处,提出了两种面向不同任务的改进后的新模型。首先研究并设计了一种结合情感词典的卷积神经网络模型,并用来处理文本的情感分类任务。首先详细介绍了经典的文本分类方法相关概念和知识,其次介绍了在处理中文文本数据时与英文文本数据的不同之处以及难点。针对情感分类任务中对人类先验知识运用不足的缺陷,将情感词典与卷积神经网络模型相结合,提出了一种新的用于中文文本情感分类的模型,详细阐述了其基本思想,并使用大量真实数据集验证了模型的有效性和优越性。其次研究并改进了一种结合注意力机制的卷积神经网络模型,并用来处理文本的多分类任务。首先详细介绍了注意力机制的相关概念与原理,其次分析了现有的深度学习模型在处理中文文本多分类问题时的不足。本文使用注意力机制改进优化了卷积神经网络模型,使其能够更好的捕捉句子所表示的意义与特征,优化了分类效果,并用实验验证了算法的有效性和优越性。
其他文献
已建成的水电工程位于青海省贵德县境内,设计正常蓄水位2452m,总库容10.56×108m3,总装机容量4200MW。坝址区地质条件复杂,受库岸边坡强烈的倾倒变形影响,目前大坝右岸边坡在
Ba1-xSrxTiO3是具有优异介电性能的微波介电陶瓷材料,在电子信息行业有着十分广泛的应用。制备工艺对Ba1-xSrxTiO3介电粉体颗粒形貌和性能的影响很大,同时这也成为人们研究的
随着传统化石能源的日益减少,为了节约能源、提高能源的利用效率,燃料电池技术应运而生。氧还原反应(ORR)因为更难进行反应,成为了燃料电池反应的关键反应部分。这也一直是燃料电池技术中的一个重要制约条件,使用ORR催化剂可以使ORR正常而高效的进行反应进而打破这一限制。但是现在可以进行实际应用的催化剂主要为昂贵且稳定性较差的Pt基催化剂,寻找一种性能优良、价格低廉、性能稳定的ORR催化剂来替代它是现在
电离辐射过程中产生大量的低能电子(LEE)可作用于DNA分子特定的化学键上,形成瞬态阴离子(TNI),通过其分解导致DNA的单链破坏(SSB)和双链破坏(DSB)。低能电子与大分子相互作用
本论文对直径508-1422mm、厚度8-40mm、长度8-12.2m钢管机械扩径机电气控制系统进行设计、优化和改进。机械式自动扩径机,设备硬件先进,控制系统性能稳定,自动化程度高,报警
[背景]诺如病毒(Norovirus,NoV)属于杯状病毒科(Caliciviridae),诺如病毒属,病毒直径约27~40 nm,基因组由单股正链RNA构成,全长约7.5~7.7 kb,含有3个开放阅读框(Open reading f
对于烟草、玉米和甘蔗等高秆作物,通过培土作业能增强作物根茎的抗倒伏能力,提高产量。目前的机械中耕培土技术培土效率低,低培土,能耗大,培土机利用刀具旋松土壤,抛到垄顶,完成培土,从而导致沟底坚硬,无松土,易造成土壤里面原有水分的流失。且遇到降雨时,坚硬的土壤不能有效实现蓄水功能,从而产生降水径流,造成水土流失。本文在查阅大量国内外有关中耕培土机械文献的基础上,结合机械培土作业的相关农艺要求,设计研制
SO_42-广泛存在于生活废水、工业废水和工艺循环水中,SO_42-浓度过高会腐蚀损坏设备,危害人类健康。从目前脱除SO_42-方法的处理效果来看,选用锆系材料吸附SO_42-选择性较高、成本低廉。但锆系吸附材料多为粉末状,使用泥浆床进行吸附-解吸,需要反复进行液固分离和吸附剂的分散,操作难度大,费用高。因此,研究开发球形颗粒吸附材料,用固定床代替泥浆床,对锆系吸附剂在工业水处理中的应用具有重要意
本文以科尔沁地方传统中的中学,民歌教学为研究对象,对其进行深入的田野调查和必要的文献阅读基础上,作为地方性文化特点的科尔沁民歌体载音乐,凝练于民族文化的灵魂,从民间
随着媒体技术的快速发展,以漫画、动画、游戏三者组成的ACG产业已成为了当代文化产业的重要组成部分。日本ACG产业发达,产品在全世界有着极大影响力,在创造了巨大经济效益的