大数据流的实时处理研究

被引量 : 0次 | 上传用户:onlinemaji
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当前,大数据的飞速发展严重冲击着传统的数据流存储和数据流处理方式。这是一种实时的数据记录序列,它的数据记录不但有序而且数据量巨大,越来越多的应用领域将不得不考虑如何对这种海量数据进行实时处理。本文对大数据背景下的数据流实时处理技术进行了研究,发现传统的数据流处理方式无论是在集中式环境下还是分布式环境下都已经不能很好的保证数据流处理的实时性和成功率,文中在上述两种环境下对大数据流实时处理进行了深入的分析和研究,提出了优化策略,可以满足大数据背景下数据流处理的实时性要求。文中首先对集中式环境下的数据流实时处理进行了分析,集中式环境下的大数据流处理主要是通过牺牲服务质量来保证系统的实时性,这种情况下的实时处理系统面临着三大挑战:同步(synchronization)问题,数据接收端出现的数据不一致(consistency)问题和I/O并发冲突(concurrency)问题。文中深入分析了这些问题,提出了一种优化策略,并将其应用到了污水实时处理和监控系统中,实验数据显示:该策略在很好提高系统处理性能的同时有效地缓解了I/O并发冲突。优化策略的具体工作如下:(1)针对上述问题提出了构建循环数据缓冲区和多线程内存管理机制,以及采用消息传递来保证数据发送方和接收方的同步和一致性要求。(2)提出了数据暂驻内存方法即线程处理所产生的中间结果和生成的新的分类信息按照预定义的分类准则存储于动态构建的内存块中,以内存记录的数量或者数据在内存块中的暂存时间作为标准,当内存中数据记录超标时,统一将数据写入数据库并释放掉其所占用的内存空间,采用该方法可以有效的减少磁盘的读写次数、降低I/O并发冲突的发生概率。其次本文对分布式环境下的数据流实时处理进行了分析,在分布式环境下大数据流通常是以一组组的工作流存在形式进行处理,为了保证分布式环境下数据流处理的实时性,借助当前最为流行的Hadoop分布式处理系统平台,文中提出了周期性工作流实时调度优化策略和基于集群拓扑结构的工作流实时调度方法,这两种优化策略虽然侧重点不同但是大量的实验结果表明:这两种优化策略在平局完成时间和平均等待时间方面要优于FIFO算法,可以有效的提高工作流处理的实时性,重点介绍后一调度策略的主要工作:(1)该方法首先根据taskTracker的计算能力和数据大小对map阶段工作流的完成时间进行估计,得到一个完成时间隶属函数,然后再利用集群的拓扑结构,得到taskTracker在集群中的距离隶属函数,根据这两个隶属函数来对集群中的taskTracker在工作流处理时间和数据传输时间进行综合性能评估,这样可以有效的缩短任务的平均等待时间并能极大提高系统资源的利用率。(2)同时该算法采用了对作业进行优先级划分的方式,满足了不同类型作业的需求。
其他文献
目的分析结膜囊菌群分布,探讨白内障围术期用药及用药途径与眼内感染的相关性,为防治白内障术后感染、规范围术期抗菌药物的应用提供依据。方法选择2011年8月~2012年7月佛山市顺
软件需求分析及其自动化技术是软件自动化和需求工程的关键问题之一。而字典管理和技术的研究是其重要组成部分。本文以自行研制的软件需求分析自动化支撑系统NDRASS为背景,讨
结构性矛盾已成为中国高校毕业生失业的重要特征,许多西方发达国家与新兴发展中国家都曾经历,其主要原因是高等教育结构无法及时适应市场需求结构。对中国而言,毕业生结构性失业
作为财务管理研究的重要领域之一,财务战略研究已被提升到重要高度。近年来,中小型上市公司随着中国的入世、经济的转型,在各省经济发展中起到了越来越重要的作用。山东省中
我国节能的重点三大领域为工业节能、建筑节能、交通节能,三大节能领域都对促进我国整体节能工作的开展有着重要的意义。工业节能作为三大节能的重中之重,引领我国节能工作的
背景:动脉粥样硬化(atherosclerosis, AS)是临床心脑血管疾病的病理基础,严重威胁着人类健康。有研究证实,在AS形成的各个阶段中炎症都参与并起关键作用。AS的发生与脂代谢及内
古代日本通过向中原王朝进行朝贡,纳入到了中原王朝的册封体制之内。隋朝时期,古代日本的朝贡目的发生了重要变化,由以前的寻求中原王朝的庇护变为从中国移植先进的政治、文
目前我国正处在建设法治社会的历史时期,我国的尊重法治、崇尚法治、厉行法治的社会氛围日浓,S市税收工作也遇到了前所未有的挑战,全市的纳税人及社会各界对S市税务工作人员
从地域文化和政治经济上讲,拉达克与西藏阿里都同为一体,是名副其实的“小西藏”。地处喜马拉雅佛教文化圈内,拉达克佛教建筑在选址布局、建筑类型、装饰技术上受到西藏、中
随着新时期世界军事变革浪潮的到来和城市化进程的加快,受城市土地资源的制约,我国的地下空间开发建设将进入一个加速期,国家和各级政府已经将提高人防工程的数量和质量作为