分布式流处理系统的研究

来源 :哈尔滨工程大学 | 被引量 : 0次 | 上传用户:scarllie
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
有关流数据分析与管理的研究是目前国际数据库研究领域的一个热点。在过去30多年中,尽管传统数据库技术发展迅速且得到了广泛应用,但是它不能够处理在诸如网络路由、传感器网络、股票分析等应用中所生成的一种新型数据,即流数据。流数据的特点是数据持续到达,且速度快、规模宏大。许多面向流处理应用的系统具有固有的分布式特征,应用通常部署在一个由具有不同计算能力的设备连接而成的环境里,采用分布式计算是唯一解决方案。本文分析了大规模分布式流处理系统设计所要面临的体系结构上的挑战和所要解决的几大关键技术问题,指出了现有分布式流处理系统的缺点,提出利用基于组件的开发方法,在现有的单机数据流处理系统的基础上利用各种成熟技术开发分布式数据流处理系统的构想。然后设计了一个基于ACE-TAO的分布式数据流处理系统的体系结构——DStream。分析了它的各个组件的基本结构和功能。接着讨论了负载平衡和高可用性问题,针对分布式流处理系统的特点,本文采用的负载平衡方法旨在最小化节点间的通信量,而本文提出的高可用性方法——上游流节点法,也同样基于此考虑,以提高系统的性能。本系统的设计充分利用了现有的数据流处理技术和分布式计算技术,采用的负载平衡与高可用性算法也易于实现,具有较高的实用价值。
其他文献
目前,很多非遗资源仍处于“半沉寂”状态,面临着“酒香也怕巷子深”的困扰。新的传播语境下,短视频成为非遗传播的新平台,它不仅突破了非遗传播的地域限制,还打破了公众之间
随着我国物质生活水平的提高和医疗设施的改进,我国的人均寿命得到很大的提高。老年人口比重明显增加,人口老龄化日趋严重,我国独居老人的数量越来越多,老年人再婚群体不断扩大。
采用波函数展开法给出了半空间中柱面SH波在圆形衬砌洞室周围散射的解析解,并对解答的精度进行了分析。通过数值算例分析了入射频率、波源与洞室的距离、洞室埋深、衬砌刚度等
通过对大负载工业机械手的研究,探究了大负载工业机械手设计中的关键技术,包括总体方案的论证、传动方案的确定、机械结构设计和机架的数值仿真,解决了因机械手负载很大导致
目的探讨切断指神经关节支治疗PIP创伤性关节炎疼痛的手术效果。方法2017年1月-2019年6月,对7例PIP创伤性关节炎疼痛的患者行双侧指神经关节支切断术,术后即开始功能康复训练
行政审批局作为一个新生事物在备受争议的环境中艰难生长,公共组织理论为分析其存在与发展的合法性提供了有效工具。组织的一般外部环境要求传统机构突破职能型结构与"政府需
中国银行辽宁省分行是中国银行十大重点区域分行之一,2010年,中国银行辽宁省分行的不良资产比例低于1%,在不良资产管理问题上取得了显著效果。但金融危机的影响尚未消除,出口
慢性每日头痛(chronic daily headache, CDH)是指频繁头痛,凡是头痛超过4小时/日和超过15日/月,持续超过3个月者即可诊断为CDH.CDH不是单独的头痛病种,而是多种原发性头痛和
期刊
目的 探讨局部他克莫司软膏配合口服帕夫林治疗糜烂型口腔扁平苔藓(OLP)的疗效和安全性。方法 60例糜烂型OLP患者随机分成两组,实验组局部他克莫司软膏配合口服帕夫林,对照
目前,通常采用确定性方法对桥梁隔震效果进行分析,即通过隔震与非隔震地震响应进行对比得到隔震效果;而概率方法对隔震桥梁进行分析时又大多仅分析其失效概率,很少从失效概率