分布式任务调度系统的设计与实现

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:daguofan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的到来,如何通过技术手段挖掘隐藏在大数据下的深层次关系,并将其应用于业务场景,成为企业重点关注的问题。定时任务调度恰恰是业务应用和数据处理工作中不可或缺的一部分。随着任务处理数据量的快速增长,传统调度方式导致消耗大量资源的运算逻辑耦合于业务工程代码,非常不利于升级、监控和管理,还极有可能因为繁重的任务影响系统服务的正常响应。起初,部署单台服务器就能满足定时任务需求,但是随着任务数量的不断增长,单机模式会对机器负载产生巨大的压力,无法保证正常地触发运行任务。针对上述问题,本文设计开发出一款符合企业需求的任务调度系统。该系统支持任务分片、分片动态路由、多种任务类型和任务统一配置管理等功能。系统采用分布式架构,解决单体架构遇到的性能瓶颈问题。主要由调度器、执行器和Web控制台三个模块构成,它们的主要职责分别是根据配置的路由策略进行调度计算、执行和停止具体任务、界面化管理任务和集群资源。三个模块通过Zookeeper进行协调,利用Watcher监听机制相互通知。为了让系统中所有执行节点负载均衡、合理地利用节点资源,本系统引入负载均衡调度策略。该策略会综合任务预设负载值和执行器当前负载,计算出保证集群资源平衡的分片调度结果。在功能性需求开发的过程中,也重点关注了系统非功能性需求,例如系统的性能要求、稳定性和扩展性等。最后,对系统的功能和性能进行测试。测试结果表明分布式任务调度系统中各模块功能开发完成并符合预期,性能也满足企业内部各业务系统的要求,并且针对不同测试场景的性能对比,提出任务部署的相关建议。
其他文献
塔塔钢铁旗下铁合金生产厂家FAMD正计划到2014年将Gopalpur厂铬铁产能增加5.5万吨,Nayagarh厂硅锰产能增加5.5万吨。
在刚刚逝去的上一世纪末和当下的文坛上,当前文艺批评中的历史虚无主义倾向竟成为某些人称颂的“亮点”和效仿的“时髦”。它主要表现在对中国20世纪文艺发展的总结和反思上,
所谓新安医学,系指从北宋到清末,在新安地域(包括部分寓居外地)的新安医家所创造的医学成就。本文论述了新安医学的历史文化成就、新安医学崇尚儒学、仁者爱人的特色、新安医
会议
目前,随着我国养禽业规模化、集约化的发展,大型机械化和半机械化的鸡场不断建成,各种疾病防控体系逐渐完善,在一些已控制了鸡新城疫、禽霍乱等烈性禽类传染病的鸡场,葡萄球菌病已
经历了金融危机的“洗礼”,中小企业越来越重视企业资源的平衡管理。以解决企业基础资源、业务资源与领导决策之间信息不协同的矛盾。可以说。信息技术已渗透到了企业管理的方
师生关系是教学过程中最重要、最基本、最经常的人际关系,也构成了教学中的基本人文环境.师生关系中的强制与自由、主导与主体、施教与交往等三个方面是创设教学中自由人文环
内蒙古呼和浩特市回民区攸攸板乡攸攸板村马某饲养一头5岁荷斯坦奶牛,于2005年5月5日生产,5月6日早晨发现卧地不起,求治。主诉:上胎生产后瘫痪,本胎怀孕足月生产,5月5日晚间分娩,生
依赖与虚伪是典型的病态人格.传统道德中的伦常变异,小生产者的惟利观,市场经济的负面影响以及权力腐败都是产生病态人格的温床.要培养健全的人格,必须从强化教育主体的人格
目的:探讨吸烟对健康成年男性精液质量和精子DNA可能造成的影响。方法:223例健康成年男性根据吸烟习惯分为吸烟组和不吸烟组。不吸烟组90例,吸烟组133例。采用计算机辅助精液
病毒性传染病是引起猪只死亡的第一原因,目前以猪瘟、蓝耳病、伪狂犬病、口蹄疫、圆环病毒Ⅱ型等造成的经济损失最大。