社交网络短文本聚类研究与实现

来源 :武汉理工大学 | 被引量 : 0次 | 上传用户:jia343212539
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的到来,互联网作为其载体以更加快速、便捷的方式渗入到民众的生活,扮演着越来越重要的角色。各大社交网络平台也应运而生,成为人们获取信息、发表自己观点的重要途径。社交网络承载的信息包罗万象却杂乱无章,对时事热点话题发现、舆情监测分析等文本研究带来了许多难题,不论机构还是个人,都很难从大量的信息中快速定位到所需内容。因此,通过对社交网络信息进行聚类分析来挖掘信息中蕴含的商业和军事价值具有重要意义。而不同于其他文本信息,社交网络信息绝大多数是以简洁的短文本形式出现的,传统长文本聚类方法并不适用。因此,如何快速有效的实现短文本的聚类也是文本聚类所面临的新挑战。本文针对目前短文本聚类存在的技术难点,提出了相应的解决方法。主要研究工作如下:(1)针对社交网络上不断涌现的大量网络流行语对中文分词的影响,提出基于广义后缀树的新词发现方法。在利用中科院分词系统对短文本进行分词和词性标注的基础上,制定新词词性组合规则从短文本中抽取组合词串,并构造组合词串的广义后缀树。一定程度上降低了构造树的时间、空间复杂度。提出基于词串长度特征与词串内部互信息特征的抽取方法进行新词发现,有效修正了单纯考虑词串外部结构特征或内部关联度带来的偏差,一定程度上纠正了中文分词的错误,为短文本聚类奠定基础。(2)针对短文本特征稀疏以及K-means聚类算法对初始K值、聚类中心点的选取敏感的问题,提出改进的特征词抽取方法和基于词共现的K-means聚类算法实现短文本聚类。短文本表示中结合新词的丰富含义与词语词性特征来提取短文本特征词,并抽取短文本集合的频繁词集构建词共现图,提取图中簇的个数作为K-means算法中的K值,并根据节点重要度提取各个簇的主题词作为初始聚类中心点。利用改进的短文本特征词表示模型与聚类初始值对短文本进行聚类,在解决短文本特征词稀疏难以提取的问题的同时修正了随机选取聚类初始值为结果带来的偏差。提取各个簇中贡献较大的词作为簇标签,确定每个类别的主题词,弥补了聚类完成后簇主题缺失的不足,使聚类结果更具直观性。(3)融合提出的新词发现方法与基于词共现的K-means聚类方法,设计并实现社交网络短文本聚类原型系统。该系统主要集成了读取原始数据、中文分词、新词发现、抽取特征词、提取初始聚类中心、文本聚类等功能。在系统环境下,完成对社交网络真实信息文本的聚类工作,并验证提出方法的正确性和有效性。
其他文献
早在上世纪60年代,国外雕塑家就开始试验新材料、新方法,近10年来国内越来越多的年轻艺术家也在进行相关探索。同时,当今雕塑艺术越来越多地与装置艺术、景观艺术、大地艺术等发
学位
与一般的施工项目相比,公路桥隧工程具有程序繁琐、操作复杂、技术水平高、受环境影响大等特点,因而施工过程中面临的风险更高且更不可控。本文简单介绍了公路桥隧工程风险源
目的了解2013-2017年吉林市基层医疗卫生机构资源配置的现状、变化情况与利用效率,分析当前吉林市基层医疗卫生机构资源配置存在的问题及原因,提出对策并为科学化完善吉林市医疗卫生资源布局提供理论参考。方法本文采用文献研究、实证研究和定量分析等方法,对吉林市基层医疗卫生机构的卫生机构、卫生设施、卫生人员、卫生资源利用现状等情况进行分析,利用Excel 2013和Deap2.1软件对数据进行处理,运用
瓦·拉斯普京是原苏联当代文坛的一名骄子,他的令人羡慕的文学命运使得他在当时苏联文坛群领风骚之中倍受青睐,曾被列为当代俄罗斯文学仅有的五、六位大作家之一.不过,当历史在广
期刊
<正>根据国家卫生健康委关于新型冠状病毒感染的肺炎防控相关文件[1-3]要求,结合广东省卫生健康委相关指南[4],为了最大限度地降低专业人员感染的风险,针对我省核医学日常工作特
断路器在工业、农业和日常生活等领域应用得比较广,是配电系统中大量使用的重要电气产品。低压断路器的保护特性包括过流保护特性和过载保护特性,即断路器的脱扣动作时间与过流以及过载脱扣动作电流的关系特性。对于断路器保护特性测试,需要提供精确、稳定、高效的测试电流,保证测试结果可靠性。恒流源装置提供连续可调且精确稳定的大电流,从而对断路器进行保护特性测试。现有恒流源测试装置在测试断路器保护特性时,输出测试电
北京市海淀区教育工会坚持“两手抓”,做到防控“非典”与自身建设两不误。日前,为了适应新时期工会工作的需要,海淀区教育 Haidian District, Beijing Education Union ad
准确地掌握一种外语的语音,对于使用这种外语来进行交际的人来说非常重要.说话人如果语音不准确,就会使人误解或听不懂,就会影响思想的交流.然而.要学好一种外语的语音,并非
<正>0引言从2015年1月1日开始,所有船舶在进入北美硫排放控制区(SECA)时,必须使用含硫量不超过0.1%的低硫燃油。在船舶所有人的安排下,某船于2015年1月19日在韩国Kwangyang港
持股行权行动正在受到越来越广泛的市场关注。投服中心在督促上市公司规范运作,唤醒广大中小投资者的权利意识,示范引导中小投资者主动行权,从而改善上市公司治理水平,加强中小投
报纸