基于分布式的监控视频数据并行化处理平台研究与实现

来源 :兰州交通大学 | 被引量 : 0次 | 上传用户:tanxiaoin2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
视频监控随着智慧城市的建设被广泛应用于各行各业,监控视频系统的规模越来越大,监控摄像头的分辨率也越来越清晰,视频数据量猛烈增长。为了从大规模监控视频数据中挖掘更多有价值的信息,辅助监控人员实现智能视频监控,越来越多的视频分析算法被引入使用,更加重了监控视频系统的计算负载。面对海量视频数据和各种复杂的视频分析,如何将视频分析算法灵活地耦合在高效的视频数据处理平台成为一个重要的挑战。另一方面,在当下数据爆炸的时代,分布式技术成为近年来的一个技术热点。Hadoop、Spark等分布式技术的出现,为解决海量数据处理和存储问题提供了有效地解决方案。针对上述监控视频领域出现的问题,本文设计了基于分布式的监控视频数据并行化处理的平台。主要研究内容包括:在平台架构设计上,该平台主要由消息中心模块、分析计算模块和存储模块三个部分组成。为了解决监控视频系统中存在的视频处理算法与系统物理资源耦合度高等问题,本文采用Kafka消息队列作为消息中心模块负责视频数据的采集以及对中间结果数据进行缓存,作为中间件将平台中不同的视频分析模块进行解耦,提高平台的灵活性。为了满足对大规模视频数据近实时性处理的需求,本文采用Spark分布式计算引擎作为分析计算模块负责视频数据的高效、并行视频分析计算。在视频数据并行化处理方面,为了更好的实现视频分析算法的并行化计算,本文基于分布式数据并行化处理的思想,将视频分析算法分为帧间相关和帧间无关两类。并提出一种基于重复帧的数据划分读取策略,对这两类算法在进行Kafka分区存储和Spark拉取数据时,设计了一种定制化数据存取策略。实现视频数据基于本文提出的分布式平台高度并行化处理。最后,基于本文设计的平台通过案例应用进行性能测试评估。测试结果表明,本文提出的平台具备处理大规模数据的能力,运算速度快,并且能够在分布式集群上灵活地耦合各种视频分析算法,具有良好的可扩展性和灵活性,为后期平台扩展和管理带来了便利。
其他文献
英买力油气处理厂属于英买力气田群地面建设工程,处理英买7区块、羊塔克区块和玉东2区块3个油气田所产天然气和凝析油。处理厂总图布置按功能划分,可分为生产区和生活区。生
作为英国历史上具有典型性的维多利亚时期,通常被认为是介于浪漫主义的深刻变革与现代主义的兴起之间,浪漫主义运动中的忧郁情调在19世纪几乎席卷了整个欧洲,英国也不例外,绘
目的以狂犬病病毒P蛋白作为检测抗原,用间接ELISA方法检测狂犬病病毒抗体。方法根据GenBank发表的狂犬病病毒(Rabies Virus,RV)LEP—Flury株的基因序列设计引物,通过RT—PCR扩增出
全身四大关节脱位中肘关节脱位发生率占50%[1],而单纯肘关节后脱位又占肘关节脱位大多数.通过闭合复位一般能够获得成功,但复位后的治疗方式方法不同,愈后功能也有很大不同.
【正】 泰米尔语是达罗毗茶语系中最古老、最丰富和结构严密的语言,也是世界上最古老的语言之一。至今它不仅在南印度的泰米尔纳杜邦通用,也为居住在斯里兰卡、马来西亚、新
“2011中国信息产业经济年会”12月1日在北京召开。工业和信息化部副部长苏波出席并致辞。全国政协经济委员会副主任、中国国际经济交流中心常务副理事长、中共中央政策研究
目的:多囊卵巢综合征是临床常见的以内分泌、代谢紊乱的临床表现为主的妇科疾病,近年来发病有逐渐增高的趋势,以育龄期女性为主,病因多样,与遗传易感性、生活方式、环境因素、炎症刺激等有关,发病机制尚未明确,近年来越来越多的研究发现AMH与多囊卵巢综合征密切相关,可以提示PCOS的严重程度,因此可以作为PCOS的疗效指标。中医学认为本病的病机以肾虚为本。本研究通过收集临床以郭志强教授补肾调周法治疗的多囊卵
小说《边城》是作家沈从文精心构筑的一隅精神家园,但是在现代化的进程中,淳朴的湘西传统文明正遭遇现代文明的无情解构,作家的理想家园正在走向陌生而远去。作家对古老湘西传统
本试验旨在研究绵羊和人的主要组织相容性复合体(MHC)DRB1基因外显子2(exon2)单核苷酸多态性(SNPs)和单氨基酸多态性(SAPs),并进行生物信息学分析。运用生物基因组学数据库,利用生物信
对仪征市典型土壤冷硝酸提取的钾和醋酸核提取的钾进行比较分析,归纳出两种钾之间的三种相关型以及相对应的土壤。通过进一步研究发现质地是影响有效钾含量高低的主要因子。田