基于深度学习的短文本分类研究

来源 :南昌大学 | 被引量 : 0次 | 上传用户:whxust
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
文本作为人类重要的交流方式,记载了大量的人类文明信息。进入现代文明后,信息技术得到了快速发展,产生了大量的短文本数据。这些短文本数据包含着许多有价值的信息,由此衍生出短文本分类这一重要的课题。然而,由于短文本数据特征矩阵的稀疏性和语义特征不足使得短文本分类面临巨大的挑战。本文针对短文本的文本表示和语义不足方面,提出了基于加入注意力机制的卷积神经网络和神经主题模型的Prod LDA-ACNN模型,基于语义拓展提出了三种方式提取文本特征的GAO-CNN的文本分类模型。本文的主要工作如下:针对短文本语义特征不足,本文提出了基于神经主题模型和加入ECA注意力模块的卷积神经网络的Prod LDA-ACNN模型。在经过Word2vec模型对文本数据进行词嵌入后,分别用在加入ECA注意力模块的卷积神经网络提取文本特征和用Prod LDA主题模型提取主题特征,然后将文本语义特征和主题特征融合后再输入分类器中进行分类任务。经过实验表明,Prod LDA-ACNN模型相比CNN和LSTM模型性能有较大提升,相比较TMN模型性能也有小幅度的提升。针对短文本数据语义信息不足和特征矩阵稀疏等问题,在快速聚类算法、门控卷积网络、自注意力机制和卷积神经网络的基础上提出了GAO-CNN文本分类模型。在经过Word2vec模型对文本数据进行词嵌入后,使用了快速聚类算法对原始短文本特征进行特征拓展,然后将特征拓展的特征矩阵分别通过三种方法进行处理,分别是使用门控卷积网络提取特征,使用自注意力机制提取特征和使用一维卷积核提取特征,然后将这三个特征矩阵通过三个通道输入Text CNN网络中进行文本分类任务。经过实验证明,GAO-CNN模型相比较本文选取的四种比较流行的短文本分类模型性能均有所提升。
其他文献
帕金森病作为一种慢性的神经退行性疾病,其导致大脑中的黑质和纹状体发生病变,由此产生的相关症状严重影响了患者及其家庭成员的正常生活。鉴于帕金森病当前仍无法被治愈。因此,精确、可靠的早期诊断方法对于减缓帕金森病的进展、改善患者健康状况发挥着至关重要的作用。面部表情障碍作为帕金森病的早期运动症状之一,使得帕金森病患者与正常人在面部表情表达上存在明显差异。在临床诊断中,由于面部表情障碍评估任务主观性较大,
学位
图像去模糊的研究已经有了诸多进展,深度学习在图像去模糊领域上也颇有建树,但是纵观深度学习的去模糊方法,或是因为模型结构较为简单,导致去模糊的效果难如人意,产生了诸如伪影、丢失边缘纹理等问题;或是因为模型结构过于复杂,导致其适应性较差,难以将其广泛应用于各类场景中。在这一背景下,本文基于经典的深度多尺度卷积神经网络(DMCNN),提出了一个相对轻量级的多尺度去模糊网络。本文所做的主要工作如下:(1)
学位
为将中餐食物图像检测模型部署在移动端设备上,本文提出了一种基于优化YOLOv4的中餐食物图像检测模型,并通过实验证明其有效性。之后,基于所提出的模型,设计并实现了一个中餐食物图像检测系统。本文的主要研究内容及工作如下:1.针对传统目标检测模型占用资源较多,轻量检测模型精度较低等问题,本文首先从轻量化的角度出发改进YOLOv4模型,一方面使用轻量化神经网络Mobile Net V2替换原始YOLOv
学位
随着大数据时代的到来,图像尤其是动物图像已经成为网络数据的重要组成部分。从已有的海量数据中有效地检索出动物图像,对于发现动物和保护动物具有重要的意义。由于科学技术的发展,现如今的图像检索普遍是基于内容的,近些年更是将深度神经网络与图像检索结合以获得更准确的检索结果。但是基于深度学习的方式获取的图像特征往往维度很高,而利用这种高维度的图像特征进行检索,在实际应用中往往会带来难以接受的时延问题。基于上
学位
<正>众所周知,《黄帝内经》是我国最早的医书之一,里面记载了很多古人的养生之道,今天笔者就带大家来看看古人在寒冷的冬季是如何养生的。《黄帝内经》中关于冬季养生是这样记载的:冬三月,此谓闭藏。水冰地坼,无扰乎阳,早卧晚起,必待日光,使志若伏若匿,若有私意,若已有得,去寒就温,无泄皮肤,使气亟夺,此冬气
期刊
低照度图像因对比度低而不利于人眼观察和机器学习,尽管已经提出了不少图像增强方法来解决此类问题,但现有的算法或多或少存在一定的缺陷。例如基于Retinex模型的低照度图像增强(low-light image enhancement,LLIE)算法不仅对图像的亮度和对比度具有提升效果,而且在彩色图像增强方面具有明显的优势。然而此类算法主要对亮度分量进行估计,其结果并不准确且无法保留图像边缘信息,从而导
学位
随着大量的社会资源被网络化和数字化,数据浸润各行各业,成为重要的生产要素。从繁杂数据中提取价值信息成为助力生产学习的有效手段,数据挖掘的重要性不言而喻。K-medoids聚类算法是数据挖掘中的有效技术,它在继承了K-means算法优点的基础上,对噪声和离群点过于敏感的不足进行改进,得到了研究者的广泛关注。但K-medoids算法依然容易受到初始聚类中心点随机性的影响。为解决这些问题,本研究提出一种
学位
工作流系统主要应用于具有明显流程特征的办公软件,但传统的工作流系统存在着部署维护成本高、升级迭代不够简便、应用不够灵活等弊端。随着云计算技术的快速崛起,SaaS模式以其升级维护成本低、按需租赁、即开即用和扩展能力强等优势逐渐被广泛应用于软件技术领域。针对上述问题,本文结合SaaS模式和微服务框架设计并实现了一个全新的工作流系统,有助于工作流系统的资源共享和灵活应用,提高了产品的技术竞争力。本文的主
学位
随着影视动漫、有声书广播剧等产业的飞速发展,配音逐渐进入大众的视野,越来越多的配音爱好者希望利用业余时间学习配音,不仅可以增加一份收入,还能圆自己的“配音梦”。然而配音看似门槛低,实则需要专业的学习加上系统的训练与实践,其中配音情感的表达是衡量配音质量的关键因素之一。而网上出现的各类线上配音速成培训班教学质量良莠不齐,难以对学生的配音训练实践提供实时指导,学生也无法准确的评估自己配音的情感表达效果
学位
失智症是指任何导致记忆或思维能力的改变严重到足以干扰一个人的日常生活的疾病,其中最常见的失智症疾病是阿尔兹海默症。动脉自旋标记是一种使用可自由扩散的内在示踪剂测量脑血流的功能性磁共振成像技术。动脉自旋标记凭借无需注射造影剂、无电离辐射和费用较低的优点,在失智症这种长期性疾病的临床中得到广泛的运用,但遗憾的是目前尚没有公开的基于失智症的动脉自旋标记数据集。为了改善这种现状,本文深入开展了面向提高失智
学位