基于Spark的降雨量预测方法研究与实现

来源 :西安理工大学 | 被引量 : 0次 | 上传用户:wankunbaobao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卫星云图可直观反映各类云系的运动状态,已成为气候及水文预测的重要参考依据。多年来水利行业累积了大量的卫星云图和雨量数据,但通过人工判读的方式效率低,只能定性判断,在决策过程中可信度低。为了解决此问题,本文综合应用Spark大数据技术与图像挖掘技术,通过关联规则分析研究云图与雨量之间的关系,为基于卫星云图的降雨预测提供理论了依据。论文主要研究开发内容如下:(1)构建了云图数据和雨量数据关系模型。基于灰度特征设计了五种与降雨相关的云图特征参数,结合云图特征参数和雨量数据建立多维立方体,并采用聚类技术完成混合数据分区,进而利用关联规则挖掘算法探究云图与雨量之间的关系(2)利用聚类技术实现卫星云图云层分离提取。引入粗聚类Canopy算法对模糊C均值算法进行了改进,研究了Canopy FCM算法。针对局部最优问题,结合最大最小原则,提出了MMCanopy FCM算法。为了支持海量卫星云图的处理,结合Spark编程模型,提出并实现了并行化SP MMCanopy FCM算法。实验结果表明本文方法可有效实现云层分离。(3)基于云图-雨量混合数据集进行关联规则挖掘。结合矩阵特性改进了Apriori算法,提出了基于矩阵压缩的MC_Apriori算法,克服了其产生过多无用候选项集的缺点,提高了内存利用率。为支持海量云图-雨量数据的关联规则挖掘,基于Spark平台对Apriori算法进行了并行优化,提出SP MC Apriori算法。通过实际的云图-雨量混合数据集实验分析表明,本文方法具有较好的准确性和时效性。(4)应用上述理论与方法,基于Spark大数据平台,设计实现了一个降雨量预测原型系统。
其他文献
<正>股骨颈骨是人体下肢十分重要的骨骼,关系到人体下肢的运动功能和生活质量。随着现代经济的快速发展,各种高能量所致的损伤特别是骨骼的损伤日益增多[1-2]。本文采用回顾
【教学目标】知识目标:中华民族精神的形成和发展,中国共产党对民族精神的继承和弘扬。理解弘扬和培育中华民族精神的重要意义。结合当今世界实际及社会主义现代化建设的要求
在我国律师行业作为特殊的法律专业服务行业,近年来的发展突飞猛进,全国各地的律师事务所数量不断增加,全国律师的人数也在不断增加。如今法律专业服务行业已经开始走向市场,对法
课外阅读能促进学生的认知、情感、智力的发展,进而塑造人的精神世界。正如苏霍姆林斯基说过,只有带孩子走进书时,真正的教育才开始。课外阅读是小学语文课程的重要内容,是学生获
针对当前我国中学生学习科学概念时记忆概念定义的现状,以及学生无法解决日常生活问题等学习困难,本研究采用解释驱动探究来解决中学生科学概念学习出现的问题。解释驱动探究的
意象是中西方文论中最为重要最有影响力的概念之一,是文艺学美学领域研究的重点。自现代以来,意象研究逐渐渗透到中国古代文学研究领域。《诗经》作为中国文学史上一颗璀璨的明
当前我国学校教育的实践中,集体教学的主要形式仍然是班级授课。但近年来,随着高中教育的逐渐普及,学生之间差异性不断变大是一个不争的事实。班级授课中的统一目标、统一要求
多音字研究是现代汉语汉字研究的重要组成部分。近年来,学者们从不同角度对多音字进行研究,取得了一些成果。《现代汉语词典》第六版是2012年发行的新版本,目前,对这版词典多音字
苏俄政策转变时期,为有效应对纷繁的执政考验以维护俄共(布)的执政安全,列宁进行了艰辛的探索并形成了一系列重要思想。列宁提出,执政中的共产党需采取必要且可行的办法破解
目前,我国经济处于由追求高速增长到追求高质增长转型的关键期,中国必然要走创新驱动产业转型升级的道路。本文立足于我国知识产权保护现状,就新经济背景下知识产权法律保护