【摘 要】
:
随着IT与通信行业的飞速发展,全球数据以爆炸性速度增长,大数据时代应运而生。大数据的主流处理技术——分布式系统,更是近年来最热门的研究技术之一。本文正是基于此背景下,
论文部分内容阅读
随着IT与通信行业的飞速发展,全球数据以爆炸性速度增长,大数据时代应运而生。大数据的主流处理技术——分布式系统,更是近年来最热门的研究技术之一。本文正是基于此背景下,以Windows操作系统下的通用PC机集群作为硬件平台,设计了基于数据处理任务的分布式协同处理系统。根据计算服务器的操作方式区分,本文提出了两种分布式处理系统设计模式:基于数据库任务管理的“主动模式”与基于客户机/服务器(C/S)架构的“被动模式”。两种模式系统均基于有向无环图(DAG图)、分布式文件系统以及数据库等技术实现。“主动模式”分布式处理系统以数据库作为管理核心,将计算任务/模块作为日志存放在数据库记录中,计算服务器通过争抢任务的形式从数据库中取出数据处理模块完成处理。本文提出了四种计算模块调度策略,并在“主动模式”系统中针对简单的权重优先调度策略与计算任务优先调度策略进行了实现。根据实际运行效果,可知简单的权重优先调度策略对于全局模块处理效率提升明显,而计算任务优先调度策略对于高时序性数据处理任务有更好的处理效果。“被动模式”分布式处理系统基于客户机/服务器架构,系统中监控服务器对计算任务/模块以及在线计算服务器进行管理,根据计算服务器状态及简单的权重优先调度策略分配计算任务/模块,计算服务器被动接收指令完成相应处理。本文就“被动模式”系统的通信模块、数据结构与算法以及数据库三方面进行了技术分析,并证明了在计算任务数量和规模复杂性变化时,“被动模式”系统均有较好的效率提升表现。理论上两种模式系统的计算服务器集群规模均有一定的可扩展性,在计算服务器规模小于50时其可扩展性较好,而当计算服务器数量大于100后其效率提升逐渐趋于平缓。并且,两种模式系统在实际的信号处理应用中均表现有一定的效率提升。对比两种模式的分布式处理系统,“主动模式”系统在运行效率和实现代价上优于“被动模式”系统,而在安全性与鲁棒性、可扩展性上则逊于“被动模式”系统。
其他文献
最近数十年来,由于化石燃料燃烧和氮肥生产,大气氮沉降急剧增加,尤其在中国南方热带和亚热带地区尤为严重。大气氮沉降持续增加对陆地生态系统植物-土壤间反馈关系以及生物地球
基于图象处理的机器视觉与智能识别技术是图象处理的前沿和人工智能研究领域的重要分支,机器识别的方法在于研究合适的计算模型,然后利用机器来实现简单的智能判决。本文以“
摘要:在积极进行新课程改革的今天,要求教师树立起“以人为本、终身发展”的思想,改变陈旧的教学观念、探究新的教学方法及评价方式,提高教学效益。故在课堂教学中,教师应该转变思想,与学生建立平等、和谐的关系,利用多种方法激发学生的学习兴趣,结合因材施教与分层教学,指导学生共同参与教学活动,发挥学生的主动作用,促进学生的个体发展,调动学生学习语言的主动性与积极性,从而提高课堂效率,使每一堂课都鲜活起来。
本研究选择中国的热带地区海南作为研究地点,连续3年在该区的尖峰岭、霸王岭、五指山、吊罗山、黎母山、鹦哥岭等自然保护区进行了牛肝菌科(Boletaceae)标本的采集。在此基础
电阻式存储器(ReRAM)凭借其与CMOS工艺很好的兼容性、超快的擦写速度、极低的功耗、结构简单、可高密度集成等优点,近几年成为下一代非挥发性存储器的研究重点。最近柔性电子
土壤湿度,描述的是土壤中水分所占据的比重。土壤湿度信息的获取对于干旱预警、洪水预报、植被生长监测、天气和气候研究都具有重要的意义。目前探测土壤湿度的方法包括光学
花粉落在柱头后,经水合、萌发,在萌发孔的地方快速长出花粉管,最终将两个不能移动的精子运输到胚囊完成双受精。花粉管的生长是一种典型的顶端生长,其生长依赖于微丝骨架的动态周
本文介绍了脉冲功率技术的基本概念,归纳了脉冲功率技术领域开关器件的种类与其特性,指出了大功率超高速半导体开关RSD(Reversely Switched Dynistor)的基本优势。相对于传统的半导体开关而言,RSD在脉冲功率领域具有显著的优点:全面积同步导通、di/dt高、开启速度快、开通延时几乎为零、功耗低、理论上可无限串联、串并联使用时触发相对简单、维护方便、成本低、使用寿命长,而且已经成
心脏射频消融手术是一种治疗心率失齐的有效手段,但是在射频消融手术过程中消融区域的温度过低则起不到消融效果,而温度过高则会灼伤到正常组织。此外,由于微波具有一定的穿
自养微生物在土壤中广泛分布,能通过多种生物固碳途径固定大气CO2,但人们对土壤微生物的固碳能力及其固碳机理尚不清楚。本研究选择亚热带区8种典型稻田和旱地土壤,设置光照和遮