基于Hadoop的海量视频日志分析系统设计

来源 :复旦大学 | 被引量 : 0次 | 上传用户:yobisisi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
2011年,随着国内互联网带宽的提升和视频用户普及率的大幅增加,视频行业获得了大量投资者的介入,迎来了一个爆炸式的增长。2012年是视频行业发展的一个转折点,如何能够在激烈的竞争中扭亏为盈是每家视频企业的核心指标。在这个基础上,企业对于自身核心数据的挖掘分析的需求也日益严苛。本文通过对一家大型视频企业数据平台架构的分析,发现现有平台存在的一些问题以及系统瓶颈。为了解决发现的这些问题,从两个方面出发,一方面对国内知名的三家企业的数据平台架构进行了研究,分析了这三家企业的架构的特点及创新部分,另外一方面从不同工作人员的角度获取他们对于数据平台的需求,本文设计了一套基于hadoop开源软件的日志分析系统,该系统具有高可用架构,并且具备日志清洗,流式日志收集和分析等功能模块。本文详细的描述了这一系统中不同模块所使用的开源解决方案及其配置,并且对部分模块中的技术难点提出了解决方案。最终,对于这套设计方案的整体设计理念进行了总结,并且指出了其中的一些不足,并对系统未来改进的方向进行了一些展望。
其他文献
马克思的“哲学革命”,其实质是要将哲学的任务从理性自由转变为感性解放。实际上,马克思在《关于费尔巴哈的提纲》中提出的“新唯物主义”关于感性的思想,其旨趣就是感性解
<正>案例描述:"观察物体"是苏教版数学三年级上册的内容。教学目标是认识物体的正面、侧面、上面;知道在不同的位置上可能看到物体不同的样子;在一个位置上,同时最多看到一个
铅(Pb)是一种重金属元素,主要用于蓄电池的生产,在全世界有大量的职业接触人群。IARC将铅列入人类可疑致癌物,在较高剂量的暴露下,铅对神经系统、肾脏、血液系统和生殖系统都
1996年 1月 2 3日至 2月 8日 ,“中日东亚季风区水稻迁飞性害虫大范围迁移动态共同研究”课题组 ,再次组织在云南境内沿缅甸、老挝、越南边境一线考察了褐飞虱、白背飞虱在云
改革开放30年来,作为我国对外贸易重要组成部分和参与国际分工主要形式之一的加工贸易取得了长足发展,其对我国扩大出口、引用外资、平衡国际收支、增加外汇储备、推动产业结
应用聚类分析方法,对曲靖市1998年至2004年稻飞虱发生情况、常年气象资料等数据进行分析,将曲靖市稻飞虱发生危害区划为中偏重至重发生区、中偏轻至中等发生区及轻发生区3个
近年来,随着社会经济的不断发展和城市化进程的不断加速,城市生活垃圾的处理量不断上升,垃圾处理已成为城市发展面临的重要问题。面对城市生活垃圾的挑战,国家和城市地方政府
随着中国首支个股期权提上日程,期权市场又再次成为了众人注视的焦点。新兴市场的期权的定价是需要迫切研究的课题。在完全市场假定条件下的期权定价模型中,所采用的波动率皆
目的:观察走罐结合推拿治疗椎动脉型颈椎病的临床疗效。方法:将192例患者随机分为2组,治疗组96例予走罐结合推拿治疗,对照组96例予常规针刺治疗。结果:治疗组痊愈24例,显效40
目的通过检测正常子宫内膜细胞和子宫内膜癌细胞株、正常子宫内膜组织和子宫内膜腺癌组织中H3K27甲基化调节酶JMJD3、UTX和EZH2的表达情况,分析其表达和临床病理之间的关系,