视频下载方法及分布式视频抓取系统的设计与实现

被引量 : 0次 | 上传用户:conglishan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的发展以及人们对电视电影技术的不懈追求,视频网站在近几年得到了飞速的发展。不管是P2P直播网站或是BT下载站,以及本地播放软件等,都成为了视频行业的推动力,特别是网络视频行业,网络视频已经成为中国互联网的主要应用之一,过去几年,产值都在逐年增加,未来几年仍将飞速发展。但是对于个人和企业来说,视频资源都是一个不可或缺的元素,获取批量视频资源更是困难重重,因此研究国内外主流视频网站的视频下载方法并且搭建系统下载这些视频资源显得尤为重要,具有很大的理论意义和实际价值。本文对当前主流的视频行业的发展进行简单介绍,在介绍网络爬虫、服务器分享数据、视频下载链接的隐藏等理论的基础上,提出要研究分析国内外主流视频网站的下载方法,并且针对每一个网站的视频的下载方法给出分析过程,然后基于这些下载方法的研究搭建一个分布式视频抓取系统,介绍系统的总体框架和详细设计过程,解决企业和个人的需要。首先,介绍了分布式抓取项目中经常使用的Perl模块的内容,以及网络爬虫的原理性的知识,阐述当前视频网站下载链接的隐藏方式和不同协议。其次对分布式系统中数据共享的方式和如何使用开源工具来处理视频的下载和合并等操作进行了说明。最后,重点介绍运用httpwatch如何分析国内外主流的视频网站的视频下载地址。其次,根据下载地址分析的结果,对不同的下载任务设计一个统一的数据格式,处理共享数据,搭建分布式的视频抓取系统。结合这些分布式的下载任务,详细介绍了分布式系统的整体架构和数据的保存,最后,根据系统的整体架构以及文件共享的相关原理,分析了每一个模块的详细设计过程,并且展示了项目搭建以来的成果。本文所研究的国内外主流的视频网站下载地址的方法适用于国内外所有的个人用户和企业,搭建的分布式视频抓取项目也适用于所有的个人和企业,如果需要补充视频资源,增加个人视频收藏,保存历史数据,只要不产生版权原因,这些都将给他们带来极大的推进作用。
其他文献
目的:探讨MSCTA(多层螺旋CT血管造影)评价颈总动脉分叉(CCAB)解剖价值。方法:回顾性分析2005年~2008年在我院行颈动脉MSCTA、结果正常的50例受检者图像。分别对其进行形态分型
物体做曲线运动时的速度方向与如何才能使物体做曲线运动是《曲线运动》教学的重、难点。演示实验能否成功,决定了突破重、难点的成败。对教材中的三个演示实验进行了改进,从
通过对黄柏的生长习性,掌握栽培技术要求,确保黄柏高产量、高效益。
房地产市场在经历了多年发展后,已经成为中国的支柱型产业。同时,随着市场的成熟,购房者越来越趋向于理性化,房地产销售已经成为一门新兴的学科。中国本土的房地产代理行业在近三
研究背景与目的:近年来,肺癌的发病率和死亡率一直呈上升趋势,已成为全球面临的严峻的健康问题。预计到2025年,中国的肺癌患者将达到100万,居世界首位。进一步探索与肺癌发生
玫瑰茄是集药用及色素用为一体的药用植物。本论文以玫瑰茄早熟品种、中熟品种及晚熟品种等不同品种为研究对象,采用大田栽培试验,分析了玫瑰茄不同品种生长量、叶绿素含量、
都市类报纸在传媒市场竞争的驱使下逐渐走向本地化市场经营之路,它们既要面对市场上电视、网络等媒体的竞争,又面临同类报纸的相互争夺。因此,都市类报纸必须找到适应本土市场的
种质资源是作物育种的基础。甘蔗种质资源的引进、收集和评价利用是拓宽遗传基础和提高育种效益的重要途径。国外甘蔗种质资源在我国甘蔗杂交育种进程中起着举足轻重的作用,对
能源是人类赖以生存和发展的重要物质基础,我国的经济社会正在快速发展,在能源方面,我们既需要充足的能源供应以保障全面建设小康社会目标的实现,同时我们也面临着国内资源和