面向Flink迭代计算的高效容错处理技术

来源 :计算机学报 | 被引量 : 0次 | 上传用户:nicico
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
迭代计算是相同逻辑的重复执行,在各种机器学习和数据挖掘方法中被广泛使用.在大数据的处理与分析领域中,分布式迭代计算更是当前的热点研究问题之一.容错机制是分布式系统高可用性的必要保证.现有分布式系统的容错机制虽然在高可用性上表现良好,但忽略了面向迭代计算的容错效率问题.本文针对批流混合大数据计算系统Apache Flink的迭代容错效率问题,进行了系统的研究.执行流处理任务时,Flink采用“分布式快照”的检查点机制来完成容错.对于海量数据的迭代分析,检查点增加了不必要的延迟.执行批处理任务时,Flink采
其他文献
《“丰润说”论证》平议(上)张书才引言《“丰润说”论证》,是王畅先生的大著《曹雪芹祖籍考论》之第六章,亦即最后一章。它系统地提出了“曹雪芹祖籍丰润”的新旧证据,并多方进行
本文基于模拟退火算法的弛豫时间模型和退火温度的理论估计,提出了动态自适应退火温度设置方法,将退火温度与问题的目标函数值关联.针对数值优化问题,借鉴数值计算中的正则化
目前证券行业竞争日趋激烈,营业部数量的骤增以及服务模式严重同质化,导致佣金快速下滑。整合现有资源,创新服务产品,实施差异化服务以保持其核心竞争力,从而有效保持客户的
新经济的到来给职业教育带来前所未有的发展机遇,也对职业教育的质量提出了新的要求.师资队伍素质的高低将是职业教育提高质量的关键因素.本文就职教师资队伍建设的现状和问
江苏省江阴市常年蔬菜种植面积达3 233.3 hm2,其中设施蔬菜生产面积1 366.7 hm2,蔬菜产业已成为当地农民增收的主要途径之一。但夏季蔬菜生产面临大风、暴雨、高温等不利条件
软件产业是国民经济战略性先导产业,发展软件出口对促进信息产业乃至整个国民经济的发展具有十分重要的意义。本文分析了江西软件出口的现状、问题及发展潜力,并提出了促进江西
鼓励大力投资兴业以发展市场经济是我国社会主义初级阶段的一项根本战略措施。股东大会是公司的最高权力机关、股东是公司的所有者,是世界各国公司法普遍奉行的两大理念。基