基于Hadoop的云转码系统研究及性能优化

被引量 : 10次 | 上传用户:suzuzl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
摘要:目前,视频流量已经成为互联网的主要流量,各种视频应用层出不穷,从数字高清电视到IPTV。互联网用户使用视频应用的终端也日益多样化,从PC到手机。然而,不同的网络视频平台和终端支持的视频内容和格式,如编码格式、分辨率、帧率等参数不尽相同。为了满足不同平台和用户的视频服务需求,往往需要对视频进行转码,即进行相应的编码格式、分辨率和帧率等格式转换。视频转码是一项非常耗时耗资源的工作,随着视频数量的急剧增长,传统的单机或者集中式转码已经不能满足人们对效率和质量的要求。而云计算通过集中、分配资源可以提供强大的计算能力,并且有良好的扩展性和较高的容错能力。所以可以将视频转码工作转移到云计算平台上。采用云平台进行视频转码,不仅可以承受海量视频数据的存储、转码需求,同时由于云计算本身具有的资源聚集特性,取用方便,费用低廉。在众多的云计算平台中,Hadoop由于其开源特性,是目前应用最为广泛的云计算平台。本论文首先设计和实现了基于Hadoop的云转码系统。该系统利用MapReduce分布式机制进行视频转码。系统包括代理服务器,视频转码模块,Cache模块三大组件。代理服务器负责处理用户的视频服务请求,视频转码模块负责视频处理工作,Cache模块负责管理原视频和转码后的视频文件。接着,论文对所实现的转码系统的性能进行了测试和分析。比较该系统与单机的视频转码性能,测试分析了分段数量和分段大小对系统转码性能的影响,分析了各个阶段在系统执行过程中所占的时间比例。在系统的执行过程中,视频文件需要进行多次对HDFS进行读写,当前HDFS读数据时副本选择策略是选择离客户端网络拓扑距离最近的节点,当热门副本集中在同一节点或者一个机架内时,用户就会对有限的资源进行激烈的竞争,造成该节点或者该机架的负载大大增加,从而影响整个集群的性能。为了克服该不足,论文提出了基于负载均衡的副本选择策略,使用线性加权法定量描述节点的负载量,选择负载量最轻的节点作为读取节点。仿真实验表明,改进的算法有效减少了副本传输时间,增加了HDFS集群的吞吐率。
其他文献
针对空空导弹在长期的贮存过程中环境因素对其可靠性的影响,提出了一种基于BP神经网络的建模方法。该方法首先对空空导弹进行分析,确定神经网络的结构;然后对环境信息进行加权融
<正>"植物细胞的吸水和失水"是人教版教材《生物·必修1·分子与细胞》中一个非常有趣的实验。我在老师的指导下优化该实验,增加对照实验,深刻体会到了科学研究的趣味性和严
目的:观察自拟活血养心汤对于急性心肌梗死冠状动脉介入术(PCI)治疗患者的心功能指标、心肌酶学指标及血清超氧化物歧化酶(SOD)、内皮素(ET)、一氧化氮(NO)等指标的影响。方
随着经济的发展和社会的进步,社会各领域对雷达测距的需求越来越高。在此应用背景下,本文基于线性调频连续波(LFMCW)体制完成了高精度测距雷达系统射频前端的设计。首先,论文
分析了水击产生的原因和引发的后果,介绍了管系中水击压力值的计算以及影响计算结果的因素,从设计角度提出了预防控制水击的措施.
财政支出效果的评价是近几年公共经济学研究领域的一个热门课题,已有大量相关成果问世。但现有研究多数是从总量角度考察财政支出对国民收入和私人部门的影响,忽视了财政支出的
以经过实船爆炸数据修正的数值算法为手段,数值模拟了两种不同当量的水雷战斗部对目标的损伤特性,对比分析了不同水雷战斗部在相同冲击因子和实战打击距离条件下对目标的损伤模
公司高管激励问题一直是理论界和实务界研究的热点,随着研究的深入,人们越来越清晰的认识到基于业绩的薪酬对高层管理者的激励起着非常显著的作用。近年来,我国延续国外对高
目的探讨膝关节内的滑膜皱襞与皱襞综合征的解剖学关系,为临床提供形态学依据。方法解剖了64侧成人尸体的膝关节并进行了观测。结果膝关节的髌内侧滑膜皱襞较为重要,其长度为
一氧化氮(NO)广泛分布于生物有机体中,具有多种生理功能,不仅能调节植物的一些生长发育过程,还在植物抗生物胁迫和非生物胁迫中发挥着重要作用。从NO参与植物抗病反应、水分胁迫应