Web用户行为数据收集统计系统的设计与实现

被引量 : 18次 | 上传用户:walker250
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
互联网时代的到来,网络已经融入人们的生活,人们也逐渐接受了网上购物的消费模式。网购者的急剧增加,让各个电子商务网站投入更多的成本来吸引用户创造更多的营收。既然是电子商务网站,那么良好的网站设计,让用户满意的购物体验对网站的经营来说至关重要,所以网站分析就显得十分必要。要想了解用户访问网站的情况,就要获取全面而且详细的用户浏览网站的行为数据,从大数据的角度来讲海量信息使得网站分析更具洞察力,或许就会从不起眼的数据中挖掘到潜在的价值。虽然现在已有很多第三方甚至免费的网站分析工具,但实际应用在网站中并不方便,如采用JavaScript页面标签法的Google Analytics,必须修改页面引入JavaScript代码,而且捕获某种用户行为数据需要大量地修改页面增加事件跟踪的代码,导致数据捕获的工作量繁重、管理不便,而且对数据的统计也不具有实时性;而服务器日志的方式不能进行事件跟踪,还要过滤数据。本文的重点就是实现一个用户行为数据收集统计系统,采用JavaScript页面标签法采集用户行为数据,但是不需手动修改页面,而是通过Nginx的模块功能自动将不同的JavaScript嵌入到各类页面中;事件跟踪的JavaScript代码可以统一管理,方便维护;数据收集服务器基于Netty,可以快速地处理大量的数据;行为数据通过数据收集服务器发送至MetaQ消息中间件,因为本系统对行为数据的统计有两种方式,分别是使用Hive实现定制化的周期报表和通过Storm实现实时统计并展示,所以这两种统计方式可以独立地从MetaQ消息中间件中拉取数据消息互不影响,因而将数据收集服务器从中解耦出来。本人在项目中的工作主要包括用户行为数据采集方法的研究、行为数据采集和数据收集存储模块的实现,其中本人参与开发的是通过Hive生成各类运营统计报表,故Storm实时统计的实现不在本文中介绍。目前本系统已经为联通网上商城和手机商城等平台提供行为数据统计服务,借助已有的任务调度系统每日或周期性地生成报表发送给相关人员,而且就现有情况来看HDFS上的数据存储也基本达到了实时性,因此通过对行为数据的实时查询可以监控一些网站状况,如出现异常可通过短信接口发送告警信息给开发人员。
其他文献
2004年,全球第三大商用飞机制造企业加拿大庞巴迪宇航集团宣布开始研发款全新的单通道窄体客机C系列飞机,寄希望于这款划时代的新机型能够撼动长期被波音空客两大企业垄断的
在职业教育的语文教学中,培养学生对文学作品的审美理解力是实施美育的重要手段.要培养和提高学生的审美理解力,一方面要使其掌握丰富的文学知识,另一方面要使其按照审美规律
卵巢癌仍然是迄今致死率最高的妇科恶性肿瘤,根据美国国家健康统计中心2014年公布的数据,美国卵巢癌总的5年生存率为44%,其中晚期病例仅为27%。自从上世纪90年代紫杉醇成为最
<正>党的十八大以来,以习近平同志为核心的党中央高度重视民主集中制建设,将其贯穿到管党治党和治国理政全部活动之中。习近平总书记强调指出,民主集中制是我们党的根本组织
汉字是当前我们使用的最重要的交际工具,也是中华文明的重要载体。将汉字书写规范,是每个中国人应有的基本能力;理解汉字蕴含的深刻文化内涵,增加对汉字的热爱,是每个中国人应有的
“盘点”新世纪以来大陆青春校园电影,电影创作者跨越了特殊时期意识形态思想倾向的约束,以传播中华文明五千年历史文化的沉淀为己任,传承延伸大陆电影艺术精华为责任,将镜头对准
本文介绍了C.I.分析红145的合成工艺,研究了用硫酸法将6-硝基-2-氨基苯并噻唑重氮化后与N-乙基-N-氰乙基苯胺偶合的反应条件。
词汇教学是小学英语教学的重要组成部分,是一个复杂的教学过程,根据新课程标准中词汇教学的目标,小学生的心理和认知特点以及小学英语词汇教学的原则,我们应当运用多种方式呈
当前股指期货作为主流的金融创新工具,在国际资本市场上已成为主要的风险管理工具。套利作为股指期货交易的重要方式,保证了市场价格的合理化也增加了股指期货市场的流动性。
在改革开放和现代化建设的这个新时期,第十二个五年规划正在进行当中,上海自由贸易区应运而生。上海自贸区的任务是探索一条适合国情、面向世界的经济发展新模式,改变政治经