基于Hadoop平台的增利宝数据分析与应用

来源 :湖北大学 | 被引量 : 0次 | 上传用户:ali5000
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
金融企业数据量的增长随着互联网技术的成熟及企业信息产业的建设而变得日趋不可估量。面对日益增长的金融数据,如何存储处理并分析金融高价值数据将逐渐成为企业面临的一个重难点问题。随着余额宝的推出,天弘基金增利宝产品的客户随之大增,天弘基金也晋升为国内第一大基金公司,现需要将这些增利宝数据进行有效的存储并准确的从这些客户数据中分析挖掘出有价值的信息,因为客户交易数据量大,客户信息复杂,所以不容易处理。目前常用的数据存储平台主要有Oracle、SQL Server、MySql等。但面对数据量增长过快的增利宝数据,这些平台将不再适用,因此本文将选择Hadoop作为增利宝数据的存储计算平台,通过此平台对数据进行分析与挖掘。本文首先从理论知识出发,介绍了 Hadoop相关子框架,包括分布式存储系统HDFS、并行计算框架MapReduce、分布式数据仓库Hive、K-means算法原理及优化等,为后文Hadoop技术及优化K-means算法在增利宝数据分析中的应用做理论铺垫。然后,笔者以Hadoop技术在增利宝数据分析项目中的应用为实践背景,构建了一个包含峰值5000万条测试数据、3台物理机作为节点的Hadoop集群,并通过此集群利用优化K-means算法经过50次迭代来分析增利宝数据的过程。最后通过比对在处理相同数据量数据时传统平台与Hadoop平台的时间效率,来体现Hadoop在处理大数据时的优势。
其他文献
【摘要】阅读是中学生提高英语能力,扩大知识面的重要途径。这既考查学生的词汇量,也要求学生有一定的阅读技巧,还要有一定的理解能力。因此,提高初中生的英语阅读能力是帮助学生提高英语水平,培养语言交际能力的重要方式。阅读一直是英语教学中的一个重要环节。从句子到段落,从段落到文章的理解都要通过仔细阅读来完成。培养学生阅读理解能力一直是英语教学的目标之一。如何培养中学生阅读理解能力,本人提出個人的看法。  
【摘 要】 小学语文教学是一门科学,同时也是一门艺术,游戏教学在小学语文教学中的应用是小学语文教学的一个创新,也符合小学生心理成长的阶段特点,在这个游戏教学过程中,教师要把我好教材,根据教材制定好活动内容,让学生在游戏的过程中学到知识,这样的教学方式不仅使学生获得了快乐,也在快乐中学到了知识,达到了教学的双赢。  【关键词】 小学语文;游戏教学;教学方式  【中图分类号】G62.6【文献标识码】A
教学有效性是实现教育改革和素质教育至关重要的部分,回顾以往传统的课堂教学,忽视了学生综合素质的培养,没有实现减负增效,也就难以满足符合新时代特色的教学需求。由此可见,创新
【摘要】随着新课改的不断深入,各式各样的英语教学模式纷繁叠出,有的课堂盲目追求 “热闹”,让课堂成为华而不实的“空架子”。因此教师要与时俱进、改变观念,通过简约化的教学手段来摆脱英语教学“耗时多,低效能”的现象,使学生在较短时间内获得英语知识技能,让高中英语课堂更高效。  【关键词】新课改下 高中英语 简约化 阅读教学 应用探究  【中图分类号】G633.41 【文献标识码】A 【文章编号】209
引导教学法培养学生独立思考,将综合知识运用到分析化学实验中.让学生先做基本实验,教师引入新的概念和方法.让学生查文献,提出改革现有实验的具体方案.再由教师对方案评述.方案确定
目的探讨脊柱通用钉棒系统重建对骶骨肿瘤切除术后患者腰骶关节功能及稳定性的影响。方法 32例骶骨肿瘤患者行前后联合入路切除肿瘤,应用脊柱通用钉棒系统重建患者的腰骶关节
【摘要】1.解决高一新生学物理过程中的第一次迷茫和纠结。2.专治高一新生学物理过程中的第一次“水土不服”。3.战胜自我从此开始,方法转变由此开启。  【关键词】位移 速度 传承 摈弃 深入 割裂 较量 腾飞  【中图分类号】G633.7【文献标识码】A 【文章编号】2095-3089(2016)24-0054-01  开学了,欣喜的看到高一新生学物理的热情,但是第一次满心欢喜的交上作业,题目和内容
本篇翻译实践报告所选文本来自美国战略与国际研究中心网站上有关南海的两篇文章。第一篇文章叙述了南海的发展态势以及美国对南海的政策,第二篇文章展示了解决南海争议以及各方如何进行合作的一个区域蓝图。近年来,“南海问题”屡次成为地区热点问题,所选文本有一定深度,对于掌握国际形势,维护国家主权有重要意义,值得翻译探讨。原文属于政治文本,语言简洁、准确、严谨preciseness,带有政治敏感性Politic
实验教学具有直观性、实践性、客观性、综合性和科研性的特点,具有理论教学不可替代的作用,是高等医学教育的重要组成部分,在培养学生动手能力和创新意识,提高其综合素质等方
【摘要】 初中英语教学是初中教学中的重要组成部分,对其教学方法进行研究,提高教学效率,改善教学效果具有十分重要的意义。本文指出了当前初中英语教学的现状,分析了分层教学法的理论基础,并对分层教学法在初中英语教学中的有效应用进行了详细的介绍。  【关键词】分层教学法;初中英语教学;应用  【中图分类号】G633.41 【文献标识码】A 【文章编号】2095-3089(2016)28-0005-02