基于Hadoop的数据治理系统的设计与实现

来源 :北京邮电大学 | 被引量 : 14次 | 上传用户:sdfsdffsgf
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在大数据时代,基于不同业务数据开发新的应用程序已成为企业信息化建设的重点。但是,随之产生的诸多数据问题会导致应用程序无法高效且准确地满足实际业务需求,甚至影响整个企业数据平台的建设。因此,为解决以上数据问题,数据治理的相关技术研究逐渐受到各大企业的重视,同时也涌现出许多数据治理方向的系统产品。但是目前已有的数据治理系统具有以下缺点:1)缺乏统一的数据治理标准化流程。2)缺少对大规模数据的多维度展示和建模;3)管理范围狭窄,需要与特定系统对接,且流程复杂,需要大量人工辅助操作环节。为完善这些缺点,本课题围绕“基于Hadoop的数据治理系统的设计与实现”,结合国内外最新研究内容,确定本课题主要研究内容如下:(1)设计实现基于Hadoop的数据管理标准化流程子系统,形成一套对特定结构数据完整的数据治理操作流程,保证治理步骤执行的完整性。(2)在保证数据管理流程标准的基础上,扩展系统适用场景,以开源元数据管理工具Apache Atlas为基础搭建多源元数据统一管理子系统,形成对大数据处理平台元数据信息的统一监管和维护。(3)设计实现基于Kylin的多维数据建模子系统。以数据管理标准化流程子系统处理得到的数据为基础完成立方体构建和中英文转换,输出的分析数据可以提供给其他数据分析或者数据可视化探索软件使用。(4)设计实现了全局数据资产监控子系统,实时查看数据治理系统内数据运行情况,以便做出正确决策,保证系统顺利运行。基于上述研究内容,本文从卫健委的实际应用角度出发,考虑海量数据场景给数据治理带来的挑战和要求,在开源大数据框架Hadoop上构建数据治理系统,提供方便简洁的页面操作,满足不同场景不同用户角色对数据的需求。目前,该系统已经在卫健委部署上线使用,同时基于研究内容发表专利一篇。
其他文献
摩尔·弗兰德斯的一生是不幸的又是有幸的.不幸是因为在一个被男尊女卑思想所控制、所扭曲的男权社会中,她是一个典型的受害者;幸运的是她通过自身的努力,不仅最终过上了物质
党的十九大明确提出,我国经济已由高速增长阶段转向高质量发展阶段,正处在转变发展方式、优化经济结构、转换增长动力的攻关期。出口商品结构升级是优化经济结构、推动高质量
以初始体重为(5.85±0.19)g的红白锦鲤幼鱼为实验对象,研究虾青素有效添加量为130 mg/kg时,饲料蛋白水平(25.49%、30.84%、35.04%、40.68%、45.88%)对锦鲤体色、生长及免疫的
1969年,甘肃武威雷台的一座古墓中,出土一件奔马铜雕。奔马长45、宽10.1、通高34.5厘米。马作奔驰状,三足腾空,头微向左,昂首扬尾,右后足踏在一只飞鸟上,飞鸟体形较小,展翅回首,尾端有一
期刊
<正>随着科学的发展,越来越多的医学科技工作者认识到吸烟的危害性。吸烟能引起肺癌、慢性支气管炎、肺气肿、动脉硬化、糖尿病、心脏病、肾脏疾病、脑血管意外等疾病。吸烟
在商业竞争日益加剧的今天,配送服务系统是企业生产经营和电子商务发展极为重要的环节,系统一旦发生风险事件,将会造成企业供应链的中断,影响顾客服务水平。因此,配送服务系统的
BGP做为中国石油天然气集团公司下属的从事石油地质勘探服务的全资子公司,从上个世纪90年代开始走上了国际化之路到2010年,在世界石油地质勘探服务行业己跻身世界前五位。为了
节能与新能源汽车发展战略对LNG汽车及加气站的应用推广带来了新的契机。为此,本文分析了LNG理化特性,发展LNG产业的现实意义;在充分分析国内外LNG汽车及加气站的现状和发展趋势
本文从描写台风运动的动力方程组出发,讨论了台风的螺旋结构,给出了这种螺旋结构的图样,指出:(1)台风螺旋结构的形成是台风中重力惯性内波,特别是重力内波的作用所致,(2)台风螺旋
在水温21℃时,测定暴露于相同密度8种不同藻类条件下,一龄三角帆蚌对藻类的同化率、排氨率和耗氧率,实验周期为24 h。结果显示,在相同密度下,三角帆蚌对硅藻的同化率最高,为0