基于Spark的单脉冲搜索并行化研究

被引量 : 0次 | 上传用户:yxl122702985
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
单脉冲搜索是探测脉冲星、快速射电暴和旋转暂现射电源的重要手段。随着500米口径球面射电望远镜正式投入运行,单脉冲搜索面临的数据处理规模已经达到了PB级别,这对天文学研究工作提出了巨大的挑战。基于分布式架构的数据处理方法成为处理这一规模数据的有效手段,而Spark作为一种新型的分布式计算框架,具有着较高的处理速度和灵活性,在天文数据处理中也展现出了广泛的应用前景。本文分析了Spark相对于主流分布式架构的优势,包括内存计算、任务调度、数据共享等方面。在现有脉冲星搜索程序PRESTO的基础上,结合Spark完成了对单脉冲搜索模块以及候选体筛选模块的并行优化,并构建了分布式集群。对于单脉冲搜索部分,实现了对于单个大文件的多线程并行化。同时针对批处理应用场景,实现了单脉冲搜索与候选体筛选模块的分布式多进程并行化,并设计了面向分布式集群的任务分配算法。该算法基于负载均衡的理念,可以有效地将任务分配到集群中的各个节点上,从而实现了任务的高效并行处理。最后,通过实验分别测试了多种因素对系统性能的影响,为本文系统应用到实际环境中提供一定的指导。通过实验对系统性能进行评估,发现本系统在大规模数据处理应用场景中具有显著的优势。相对于传统的数据处理方法,基于Spark的系统可以大幅提高数据处理速度和处理效率,同时可以充分利用集群中的计算资源,大大提升了数据处理的并行度和可扩展性。因此,本文为Spark后续在实际大规模数据处理环境中的应用提供了有效的数据支撑,具有重要的实用价值。
其他文献
拾得影像(found footage)即对既有影像的再“发现”,是对已完成的影像材料进行择取、移置以超越原本的创作意涵、建构全新意义的影像生产方式。拾得影像的发展经历了几个不同阶段,从20世纪二三十年代以“革命影像”和“修正影像”(revised film)的形式初具样貌,到60年代伴生于世界范围内的社会运动,及至90年代以“戏仿”(pastiche)的创作形态为基础,不断衍生出新的创作形式。在数
期刊
煤矿采煤机截割路径的准确性是实现煤矿综采工作面无人化的基础。针对我国煤矿采煤机传统控制技方法存在控制精度低、无法路径规划及实现自动调节采煤机等问题,本文研究了采煤机智能控制系统关键技术,提出了基于人工势场法的采煤机自主导航与路径规划算法,实现采煤机路径自主规划对煤层智能控制截割,并利用MATLAB软件对算法进行仿真研究。仿真结果表明,采用人工势场法可实现对采煤机的自主导航和路径规划,采煤机可以很好
期刊
目的 探究宫颈癌患者NLRP3炎症小体的表达及其与肿瘤恶性生物学行为的关系。方法 将2019年4月至2021年8月于华中科技大学同济医学院附属同济医院就诊的181例宫颈癌患者纳入研究组,按照病理检查结果及国际妇产科联盟(FIGO)肿瘤分期进行分组,分为早期组(n=43)、中期组(n=91)、晚期组(n=47);另将同期于同一医院行宫颈检查的50例宫颈息肉患者纳入对照组。采用实时荧光定量聚合酶链反应
期刊
通过美育视角对幼儿艺术教育存在问题进行审视,发现幼儿艺术教育陷入了单向式实施的困境中,具体表现出技能化、形式化、孤立化和单一化倾向;究其原因,主要在于忽视幼儿艺术教育人文价值、弱化幼儿真实生活体验、淡化幼儿艺术教育综合性特点、忽视优秀传统文化资源挖掘等方面。幼儿艺术教育需要融合生命力实施艺术活动,润泽幼儿情感;基于生活经验打造艺术环境,丰富幼儿心灵;在活动中全方面渗透艺术精神,陶冶幼儿人格;以传统
期刊
目的 探讨微电流刺激对胫骨骨缺损家兔降钙素基因相关肽/磷脂酰肌醇-3激酶/丝氨酸苏氨酸蛋白激酶(CGRP/PI3K/Akt)通路及骨再生的影响。方法 实验分为对照组、模型组、微电流刺激组,每组10只。模型组、微电流刺激组右下肢截取胫骨中段并剔除周围骨膜,制备胫骨骨缺损模型。微电流刺激组在实验前对胫骨处电流进行检测,造模后用跟造模前正常情况下相同电流刺激,1 h/次,1次/d,并单侧固定架固定缺损部
期刊
<正>特殊学生群体主要包括智障、自闭症、脑瘫等残疾学生。他们是一个极其特殊的儿童青少年群体,其社会环境与生活方式都明显不同于其他学生群体。与留守学生、流动学生、流浪儿童等群体相比更加弱势,特殊学生在社会化进程中的角色困惑、文化传承问题更加明显,需要国家与社会给予特别关注。在当前特殊学生教育领域中,人力资源与物质资源不足,教育内容失衡且难以适应各方需求等问题比较突出。因而,创新教育方式方法,充分发动
期刊
2022年6月1日,四川省雅安市芦山县发生6.1级地震。灾害发生后,党中央和国务院高度重视,各涉灾部门协同配合,四川全省对地震灾害的应对准备充分,抗震救灾工作取得阶段性胜利。本文通过复盘此次地震抗震救灾工作的全过程,总结相关工作经验与启示,并提出了强化地方大震巨灾防范应对准备、持续做好震区震情跟踪和趋势研判、加大地质灾害防范应对力度、统筹规划灾后恢复重建工作、夯实基层防灾救灾基础能力五个方面的建议
期刊
为了筛选三华李果酒生产专用酵母,以YPD培养基平板对三华李果汁中的酵母菌进行初筛,用含12%乙醇、pH3.0的YPD液体培养基及结合嗅觉闻香进行复筛,经18S rDNA测序鉴定菌种,并进行三华李果酒酿造性能比较。结果表明,筛选得到的SHL3菌株是典型的酿酒酵母,能耐受14%的酒精度及3.5%的柠檬酸酸度;SHL3菌株酿造三华李果酒的发酵力强(CO2失重8.61 g/L)、残糖量低(3.26 °Bx
期刊
2022年9月5日四川省甘孜州泸定县发生6.8级地震,造成重大人员伤亡和社会经济损失。凉山州第一时间派出地震现场工作组赶赴灾区,按照地震现场工作调查规范,开展实地震害调查和地震烈度评定工作,收集地震现场资料、分析地震灾害特点,结合防震减灾工作实际,提出加强地震灾害风险治理建议。
期刊
<正>“我们追求人与自然的和谐,经济与社会的和谐,通俗地讲,就是既要绿水青山,又要金山银山。” 2003年以改善农村生态环境、提高农民生活质量为核心的“千万工程”,成为习近平生态文明思想的生动实践。实施“千万工程”的二十年里,我市始终坚持全面遵循和实践习近平生态文明思想,在坚守中创新,在创新中坚守,通过这一变革性实践,深刻认识必须将其作为“四大工程”推进,才能从抓农村环境入手,破解城乡统筹发展的难
期刊