基于Hadoop的海量数据分析系统设计与实现

被引量 : 0次 | 上传用户:ponsan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在电子商务急速发展的今天,各大电商网站都在试图通过分析用户登陆网页所产生的日志,得出各种关于用户的特征,从而安排更加具有效率的页面排列顺序及广告投放计划。在分析日志的过程中,面对如今动辄数百GB,甚至上升至TB的日志规模,传统单机式数据库模式已经逐渐跟不上数据增长的步伐,而提供并行处理方式的分布式数据库日益成熟,在大量数据的处理需求面前逐渐展示其优越的处理效率。其中,由Apache软件基金会所引入研发的Hadoop无疑是最受人瞩目的。其在TB乃至PB级别的数据面前的处理速度非常令人满意。本文针对电商网站对于大量用户访问日志的分析需求,运用Hadoop平台及相关技术,设计并实现了一款基于Hadoop的海量数据分析系统。通过此系统在服务器上的运作,可以对数百GB乃至TB级别的日志进行分析,得出包括用户来源渠道、站内页面流转分析等各种网站所关心的用户数据分析,并自动生成图表进行展示,从而可以非常直观的观察各项用户数据,以此进行更加准确的商业行为。本文首先介绍了项目背景及Hadoop的相关技术,然后针对系统的需求分析,提出了各部分功能的具体解决方案以及所运用的技术,最后完成系统的整体实现及测试。
其他文献
兔的寄生虫病是由各种易感寄生虫入侵兔体表面或机体内部,引起的各种疾病。兔的寄生虫病较少,虽然不会像其他细菌性疾病或病毒性疾病的危害那么严重,但兔群一旦感染寄生虫病,就会
会议
目的:通过观察疏肝理气法针刺治疗便秘型肠易激综合征(肝郁气滞证)的临床疗效,说明疏肝理气法针刺治疗便秘型肠易激综合征(肝郁气滞证)的有效性和优势。对象与方法:从2011年12月至20
摘要:Hedgehog (Hh)信号通路在哺乳动物胚胎的生长发育中极为重要,它控制着脊椎动物内胚层分化发育。有研究发现Hh信号通路与多种肿瘤发生发展有密切关系,该信号异常激活在基
基于四连杆机构理论,在UG环境下搭建了简化的鹤式起重机三维实体模型,并运用ADAMS软件对其进行了多体动力学运动特性仿真。为改进其结构设计和减轻自重做出了有益的探索。
随着城镇化的快速发展,保障性住房的建设成为解决中低收入家庭住房问题的关键所在。由于目前保障性住房制度不完善,缺乏配套的交通基础设施,导致保障性住房居民出现出行难的
民事执行程序中的以物抵债作为司法实践中一种灵活的执行方式,有利于提高执结率、化解民事矛盾、节约执行成本。然法院零星的司法解释或指导性意见远不足以解决以物抵债法律
DNA计算是一种通过分子间的可控杂交反应进行计算的全新计算模式,其突出的优势为信息安全领域的发展提供了新契机。本文主要开展了DNA加密方法研究,设计了三种基于DNA计算的加
随着城镇化的发展,土地资源的短缺越来越突出,各经济发达城市纷纷向地下要空间。综合管沟是一种现代化、集约化的城市基础设施,有利于节约资源、有利于提高城市管理水平、有利于
熨平板是摊铺机施工过程中路面成型的主要部件,它的刚度尤其是垂向刚度对路面的平整度有重要影响。本文所研究的超大宽度熨平板,最大摊铺宽度为16.5m,如何保证熨平板具有良好
在本文中我们通过类比于物理学中的热力学第二定律所阐释的熵增加原理,通过经济分析的方法得到了关于自由经济中的逆熵原理,即在自由经济过程中资本熵随时间一般倾向于逐渐减少