基于词向量的中文短文本分类问题研究

来源 :中南民族大学 | 被引量 : 0次 | 上传用户:littlerabit75
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网的高速发展和移动终端的广泛使用,人们在各类社会媒体平台上自由发表评论和表达情感,随时随地分享即时新闻,由此产生了大量以短文本作为载体的信息数据。但信息资源的爆发式增长也给有效信息的筛选及利用带来更大的挑战,短文本自动分类可以在一定程度上解决这一问题,取代传统的人工管理方式,有助于用户快速定位所需信息,选择性地阅读和处理海量文本。本文主要研究内容如下:1.本文首先描述了当前短文本分类的应用背景和研究现状,并分析了其中关键的环节是要对短文本的表示模型进行深入研究。在总结短文本特点的基础上分析使用传统的表示模型---空间向量模型进行短文本表示的不足。提出了借用“词向量”这一新型表示模型对短文本进行描述的方案,试图利用词向量中丰富的上下文语义信息来提升分类效果。目前主流的神经网络分类方法中将词向量局限于文本预处理过程,对词向量的深入优化不足,因此,本文从新型文本表示模型---词向量出发,着重研究对词向量模型的改进,提高词向量表示的质量进而提高短文本分类效果。2.通过进一步的分析,针对“词向量无法很好处理中文文本中存在的一词多义,对多义词的语义特征表示有所偏差”这个具体关键问题,本文深入研究Word2vec词向量的生成机制,提出一个新的概念---“主题-词向量”,该概念不仅能刻画上下文语义信息,还包含了主题信息。通过分析发现,词向量属于细粒度的特征刻画,而主题向量对词语间关系的描述更加粗放,二者适度融合,使用多粒度特征协同表达多义词,能提高多义词表示的准确度。同时,提出一个名为“Topic-SG”的改进模型实现对主题-词向量的计算:在Word2vec模型中常用的Skip-Gram模型的基础上引入主题模型,根据上下文语境不仅训练出词向量还训练出与之对应的主题向量,利用词向量和主题向量融合得到相同多义词在不同主题下的主题-词向量,一定程度上缓解中文中高频出现的多义词对短文本表示的特殊影响。3.本文在主题-词向量的基础上研究短文本合成过程中的结合方法,探讨词语对短文本表示贡献度不同的问题,引入TF-IDF算法计算词语的权重,并对主题-词向量加权求和以表示短文本向量,最后输入分类器完成短文本的分类流程。4.通过将主题-词向量运用在搜狗新闻文本数据集上进行多义词表示及短文本分类的实验,并比较不同参数对实验的影响。实验结果表明较于参照方法,本文所提的基于Topic-SG语言模型计算出的主题-词向量能解决传统词向量混合了多种语义的问题,且主题-词向量应用于短文本分类效果更好。
其他文献
<正> 宋苏轼有《眉子砚歌》,清查慎行注此诗,引胡仔《苔溪渔隐后集&#183;东坡》条:“新安,龙尾,石性皆润泽;……惟罗纹者,眉子者,刷丝者佳。”高似孙《砚笺》更详为解释:“眉
<正>远红外针织品系由远红外丙沦、涤沦等纤维针织而成,能发射远红外线,并能吸收太阳能、体表远红外辐射给人体,具有良好的改善人体血液循环,特别是微循环的作用,促进新陈代
会议
当前贫困人口仍然是全面建成小康社会的短板。随着我国经济进入新常态,扶贫工作面临着新的挑战,如一些扶贫政策不适应、不协调、不聚焦的问题还比较突出,各项扶贫措施的整体
目的研究郴州市儿童医院冠状病毒颅内感染患儿的临床特点及冠状病毒颅内感染患儿和冠状病毒呼吸道感染患儿细胞因子的表达情况。对象与方法收集2014年5月至2015年9月郴州市儿
建筑施工活动引起的扬尘是我国城市空气颗粒物污染的重要来源,选择天津市一处典型的建筑施工工地作为研究对象,分施工阶段对环境空气PM10、尘源样品和降尘等进行了系统监测实
目的:观察运用柴胡加龙骨牡蛎汤加减治疗痰火扰心型室性早搏的临床疗效,评价其治疗效果及安全性,从而为中医药治疗室性早搏提供理论依据。方法:本研究所有病例均来自2018年4月-2019年1月期间在黑龙江中医药大学附属第一医院周亚滨教授门诊患者。本研究采取自身前后对照试验,将符合纳入标准的30例患者在原发病常规治疗基础上给予柴胡加龙骨牡蛎汤加减,疗程为4周。观察患者治疗前后中医证候积分变化、临床症状严重
<正>人民代表大会制度是我国根本政治制度,各级人大代表是人民代表大会的基础,也是人民群众选举产生的代表人民群众行使权力的主体,随着社会主义民主法制进程推进和经济的快
期刊
<正>《金匮要略》温经汤为调经之方,经少能通,经多能止,凡冲任虚寒而兼有瘀血阻滞的病证皆可用之,在妇科临床中应用甚广。笔者将本方运用于痤疮的临床治疗,疗效良好,现结合典
<正>县乡两级人大换届选举,是基层人民群众行使国家权力的一种最重要的形式。要有效保障我县48万选民的选举权和被选举权,保障广大人民群众的知情权、参与权、表达权,就必须
鉴于砷超富集植物蜈蚣草已被成功地用于修复砷污染土壤,本研究通过连续5年的植物修复田间试验,研究了土壤氮、磷、钾的消减动态和蜈蚣草对土壤氮、磷和钾的吸收动态.结果表明