基于文本内容二元混合特征的垃圾短信识别研究

来源 :云南大学 | 被引量 : 0次 | 上传用户:zhan99zhan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的来临,通讯技术的不断发展和各种智能信息终端不断进步,使垃圾短信息群发技术更新迅速且成本低廉,导致人们普遍使用的手机短信成为利益驱使者和不法分子的重点“关注对象”.据12321举报受理中心调查显示,几乎所有人都受过垃圾短信的困扰.虽然政府和运营商都提出一系列方法治理垃圾短信,也取得了一定的成效,但技术的不断革新使垃圾短信具有多样性和时效性等特点,因此对垃圾短信的识别和治理是一项长期且艰巨的任务,具有重要意义.本文以2015年大数据竞赛移动发布的部分短信数据为基础,以短信文本分类技术为研究对象,首先介绍了当前短信业务发展现状、垃圾短信泛滥所造成的严重后果、垃圾短信的特点和种类、垃圾短信治理取得的成效以及垃圾短信分类技术研究的重要意义,并介绍了国内外垃圾短信识别与治理的现状.然后介绍了传统的基于内容的文本分类技术,包括中文分词、文本预处理、文本表示、特征选择,并介绍了支持向量机和随机森林分类器以及模型评价方法,并基于移动短信数据集对垃圾短信分类实验,分类效果有待提高,原因主要为数据不平衡问题和短信文本短、语义稀疏的问题.其次,针对数据不平衡问题,提出了几种常用的处理方法,本文针对短信数据集自身的特点提出先用LDA主题模型对正常短信类进行主题结构探索,再用K-means聚类方法对其文本-主题分布进行聚类,并对各子类别按照一定的比例随机欠采样即基于LDA-Kmeans聚类的降采样方法,得到相对平衡数据集,在此基础上构建随机森林分类器,在一定程度上对垃圾短信的识别率有所提高.最后,针对短信数据集文本短、语义稀疏问题,提出针对短信文本统计特性构建新特征对文本特征进行特征扩展,形成二元混合特征,并基于LDA-Kmeans聚类的降采样技术构建随机森林分类器,使垃圾短信的识别率大大增加,取得了较好的结果.在文章结尾,对本文进行了总结,并提出了垃圾短信识别今后的研究方向.
其他文献
高速钢刀具作为切削性刀具,其寿命对整个系统的正常运行起着决定性地作用,特别是自动化生产与数控机床所需的各种高速钢刀具,要求加工精度高、耐磨损性能好。如何有效地提高
敖包是蒙古族特有的一种历史人文景观,是蒙古族重要的祭祀载体。目前关于敖包的研究集中在历史、人文和社会学方面,而敖包祭祀空间一直以来缺乏系统的研究。在民族文化旅游背景下,因地区经济发展需要,蒙地敖包祭祀逐渐演化为大型草原聚会活动而被旅游市场开发,然而不当的开发导致敖包商业气氛过于浓重,削弱了原有的信仰内涵和仪式感。因此,当前迫切需要对敖包祭祀文化深入挖掘,探索适应现代社会发展的敖包祭祀景观。首先,本
近年来国民经济高速增长,铁路、公路、市政、房地产等相关工程项目大量开工,使得建工行业的总产值大幅提升,也促使建工企业得到了巨大的发展。同时,由于建筑施工行业的专业特
肺癌的分子诊断作为影像学和细胞学筛查策略的重要补充,其内容不仅包括早期诊断,还包括预后指标及靶向治疗的预测等。该文拟对当前肺癌分子诊断的研究热点基因突变与靶向治疗
高中学生学习英语的阵地主要还是在英语课堂,如何充分利用课堂有限的时间,提高学生的学习效率,一直是英语教学的重要工作之一。听,说,读,写是学生在英语课堂上掌握语言知识的主要技能。阅读是高中英语教学的关键和难点。阅读理解是高中英语课堂的重要组成部分。但是,传统的阅读教学更注重词汇和语法的解释,采用直接阅读课文的方法,学生的阅读能力无法达到新的英语阅读课程标准的要求,忽视了阅读能力的提高和培养。因此,在
目的探讨阻塞型睡眠呼吸暂停低通气综合征(OSAHS)与心血管疾病的关系。方法对265例鼾症患者与20例健康自愿者进行多导睡眠呼吸监测。根据睡眠呼吸暂停低通气指数(AHI)和夜间血氧
县级基层党校作为培养党员干部队伍的重要阵地,发挥着不可替代的作用。文章针对党校干部教育培训中出现的问题,对在县级党校干部培训中如何提高教育质量进行了探讨,以期更好
目的:观察理筋手法联合五味双柏膏治疗急性踝关节扭伤的临床疗效。方法:采用理筋手法和五味双柏膏外敷,治疗急性踝关节扭伤患者76例,观察踝关节早期肿痛缓解和功能恢复情况。
大部分金属氧化物/硫化物都是重要的半导体材料,其禁带宽度较大,电子迁移率较低,电学、热学、磁学性质相对特殊,因此,在多个领域获得了广泛应用。许多金属氧化物/硫化物均可
缅甸曼德勒台山话是缅甸曼德勒华人所讲的台山话,这批华人的祖籍地为广东四邑地区,这种海外汉语方言源于四邑片粤方言。本文通过实地调查和材料借鉴,从词汇的角度切入,以缅甸