基于云计算的用户行为数据分析与平台设计

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:zy657592895zy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
云计算是当前学术界和产业界的热点,各大IT公司如Google、Mircosoft、IBM以及Amazon等都不失时机的加入到云计算的研发中,推动云计算的快速发展和普及。Hadoop是一个开源云计算平台,用于在集群上对海量数据进行并行处理,已成为很多大型互联网公司计算架构的核心部分,比如Google、Yahoo、FaceBook、LinkedIn以及Twitter等。   在互联网时代,信息和数据成指数级增长,为了更有效地掌握互联网动态,以便监控或开展针对性的业务,必须对网络上的用户行为特点进行分析。而为了找出哪些站点受欢迎、哪些话题更流行、哪些书更热卖以及什么形式的广告更吸引入等,都需要对TB或PB数量级的数据进行处理,而现有的工具己逐渐不能胜任如此庞大的数据处理任务。   本文正是基于此背景开发了基于Hadoop平台的用户行为分析系统,主要针对海量HTML页面的分析处理。本文首先对MapReduce并行框架、Hadoop云计算平台、分布式爬虫Nutch、Lucene、文本分类等进行了深入的学习和研究,在此基础上提出用户行为分析系统的设计方案,并完成了MySQL数据库与Hadoop的集成、分布式多线程网页抓取与正文解析、基于Lucene的中文分词以及基于MapReduce的改进TF-IDF权值计算方法,最后采用JSP技术显示系统的分析处理结果。
其他文献
语文教学是一们美的艺术,语文学习是追求美的过程。柏拉图认为和谐就是美,反之就是不美。在语文课堂教学里,应该创设和谐的美的环境,重视人的丰富多样的生命内涵,使教学充满生机与活力,有着情感与灵性的真实流露,使个体生命的多样性得到充分表达,使学生通过自身的体验达到自我发展、自我完善。让学生在和谐的、宽松的、美不胜收的课堂里遨游,欣赏学习语文的美。  一、师生关系的和谐美——平等对话  传统观念中“教”是
期刊
2007年11月以后,中国股市大幅下落的主要成因在于宏观经济紧缩的政策组合拳和一系列抑制股市上行的政策措施实施,这反映了中国股市依然处于政策调控的走势格局。股市并非国民经济晴雨表,也不具有财富效应,因此,政府部门不应以此而调控股市;政府部门主要职能在于监管股市运行.不能调控股市。股市平准基金不利于股市的健康发展,估值标准必须从中国具体情况出发,它受到制度和体制的严重制约。对中国股市而言,治市重于救市。从发展角度出发,应着重以加法做减法,推进中国股市的健康前行。
随着我国科技发展以及国民生活水平的提高,机动车辆的数目正在急剧增加。交通问题的日益突出,使得智能交通系统成为一个热门的研究领域。车牌识别系统作为智能交通系统的核心包
本文主要阐述了国家重大专项--“CoMP关键技术研究与演示系统”(课题编号2009ZX03003-003-01)的设计和开发工作。以CoMP技术试验验证系统中的研究和开发为依托,主要详述了选题
随着信息技术的飞速发展,人们对信息应用的需求向更透彻的感知、更广泛的互联、更丰富的应用发展。泛在网提出了基于物联感知网络、异构融合接入及传输网络、智能业务提供核心
物联网已成为当今信息产业的热门话题,时代发展的潮流。物联网中最主要的核心部分就是机器之间的互联、互通,也就是M2M,它也是现阶段最普遍的物联网应用形式。国际上的各大标准
无线信道的测量与建模在移动通信系统的发展过程中起着基础性的作用。近些年来,随着多天线技术的引入,信道空域特性的重要性逐渐显现出来。信道的空域特性对无线信道的容量有着
肿瘤的发生往往与基因突变有关,因此,肿瘤的基因治疗,尤其是靶向基因治疗就有重要意义。 肿瘤特异性增殖腺病毒(即溶瘤腺病毒),是目前最具前景的靶向基因治疗载体之一。单靶向
现在,3G网络在中国以极快的速度发展,移动、联通和电信三大运营商都在积极的建设自己的3G网络。随着3G网络的建设的初步完成和大量3G业务的推出,数据业务将成为我国的无线通信的
近年来,网络技术发展迅速,随着宽带接入技术,无线通信技术的发展出现了越来越多的无线通信设备。比如像具有无线接入功能的笔记本电脑、上网本、平板电脑、智能手机,具有无线通信