基于Spark的大规模网络流量准实时分类方法

来源 :科研信息化技术与应用 | 被引量 : 0次 | 上传用户:jzlh6890
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据时代催生了互联网流量的指数级增长,为了有效地管控网络资源,提高网络安全性,需要对网络流量进行快速、准确的分类,这就对流量分类技术的实时性提出了更高的要求。目前,国内外的网络流量分类研究大多是在单机环境下进行的,计算资源有限,难以应对高速网络中的(准)实时流量分类任务。本文在充分借鉴已有研究成果的基础上,吸收当前最新的思想和技术,基于Spark平台,有机结合其流处理框架Spark Streaming与机器学习算法库MLlib,提出一种大规模网络流量准实时分类方法。实验结果表明,该方法在保证高分类准确率的同时,也具有很好的实时分类能力,可以满足实际网络中流量分类任务的实时性需求。 In the era of big data, the exponential growth of internet traffic has been expedited. In order to effectively control the network resources and improve the network security, the network traffic needs to be classified quickly and accurately. This puts forward higher requirements for the real-time traffic classification technology . At present, most of the researches on network traffic classification at home and abroad are carried out in a single computer environment. The computing resources are limited and it is hard to cope with the quasi-real-time traffic classification task in high-speed networks. On the basis of fully drawing on the existing research results, based on the Spark platform and combining with its stream processing framework, Spark Streaming and the machine learning algorithm MLlib, this paper proposes a quasi-real-time classification method for large-scale network traffic . The experimental results show that this method not only guarantees high classification accuracy but also has good real-time classification ability, which can meet the real-time requirements of traffic classification tasks in the real network.
其他文献
目的研究腰椎退行性疾病术后分级康复的疗效。方法选取北京市9家三级医院2013年5月至2014年4月收治的腰椎退行性疾病患者579例,其中男279例,女300例,年龄49~52岁,平均(50.5±
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
伊犁的惠远钟鼓楼在伊犁将军府,建于公元1893年,是一座纯汉式建筑。
机械工程及自动化技术的广泛应用改变了我国千百年来的纯手工制造格局,我国的工业生产拉开了机械化生产帷幕,不仅生产效率大幅度提升,社会生产效率也随之增加,企业的生产成本
当前我国正处于精准扶贫五年攻坚阶段,健康扶贫作为精准扶贫中的重要组成部分,是贫困人口脱贫、防止因病返贫的关键保障。而随着医疗保障水平的提高与人们生活方式的改变,因
【摘要】课堂教学的有效性是评价教学质量的重要指标。如何提高小学数学课堂教学的有效性,是当前素质教育背景下,小学一线教师需要认真思考和解决的课题。本文在分析当前小学数学课堂教学现状基础上,重点探讨了提升小学数学课堂教学有效性的策略,以期为小学数学教育实践提供一定参考。  【关键词】小学数学 课堂教学 有效教学  【中图分类号】G623.5 【文献标识码】A 【文章编号】2095-3089(2017)
在开展小学数学教学时,教师应该在重视知识性教育的同时,积极强化能力教育。在小学数学直观教学实践中,教师应该及时摒弃传统的教学观念和教学形式,不给学生过重的学习压力,
电气自动化控制技术会给我们带来社会发展的稳定与进步和现代化生产效率的极大提高,随着现代化技术的不断应用与融合,彻底改变了传统的电气控制方式,朝着自动化控制的方向发
摘 要:随着时代的发展,网络技术已经被广泛应用到教育教学中,为教学带来了新的活力。因此,在实际教学中,高中数学教师应该转变教学思路,熟悉和掌握网络教学技术,实现信息技术与高中数学学科的有机整合,并且借助多媒体技术丰富课堂教学活动形式,构建自主探究式高效课堂,从而实现高中数学教学的创新。  关键词:“互联网+”;高中数学;教学创新  中图分类号:G43 文献标识码:A