海量动漫资源中小文件存储技术研究与应用

来源 :东北大学 | 被引量 : 2次 | 上传用户:yingluoyuchen
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着数据海量化的发展,动漫制作的技术瓶颈主要体现在底层计算资源有限、存储能力弱、传输速度慢等方面,而近年来新兴的云计算架构为解决上述问题提供了行之有效的途径和手段。将云计算与动漫领域相结合构建全新的“动漫云”成为未来动漫制作技术发展的主流方向。动漫素材库是一个具有科学性和实用性的大型知识库,随着对各类专业素材的覆盖面、素材提供平台的效率以及用户体验要求的不断提升,建立基于云环境下的动漫素材库成为必然的发展趋势。分布式文件存储系统(HadoopDistributedFileSystem,HDFS)作为云存储平台,为海量数据提供高性能、高可靠、高可扩展的存储服务,HDFS适合存储流式大文件。应对海量小文件时,由于每个小文件占用名字节点(NameNode)存储的元数据相同,海量小文件会占用大量的内存,增大了 HDFS的内存负担,给HDFS的扩展性和性能带来严重问题,所以逐渐成为近年来的研究热点。本文首先分析了现有解决HDFS存储海量小文件的方案,对Hadoop技术的分布式环境、工作原理及使用方法进行了深入的研究,并在此基础上对使用广泛的基于HDFS的海量小文件存储方案进行了改进。根据文件大小将小文件分级处理,利用线性哈希索引技术将海量小文件数据均衡分布,对合并后的同级小文件创建线性哈希索引。动漫素材库系统索引通过固定的时间周期将HDFS中存储的数据文件追加到数据仓库工具(Hive)中,通过表的形式赋予数据结构,提高HDFS对海量小文件的处理能力,有效降低名字节点的负载压力。将改进后的海量小文件存储方案应用在动漫素材库中,测试和实验数据分析表明,本文方案通过分级线性哈希索引方法可以有效减少海量小文件写入时间,实现存储数据均衡分布。通过Hadoop可视化分析器(Hue)将数据仓库中索引的数据结果反应给用户,有效降低了内存开销,节省了存储空间。
其他文献
目的:探讨使用阿托伐他汀和曲美他嗪治疗冠心病的效果。方法:选取近年来我院收治的88例冠心病患者作为研究对象。根据随机数表法将这些患者分为观察组和对照组。对所有患者均进
乡风文明建设是在习近平新时代中国特色社会主义思想的指导下,培养和树立社会主义核心价值观,加快农村移风易俗,建立中国特色社会主义新风尚,着力提高农民文化素质水平和思想
癫痫病俗称“羊角风”,是由于大脑神经元反复放电所引起的一种发作性、突然性、短暂性的脑功能紊乱。由于大脑的异常放电的趋势部位以及传播的途径不同,所以在临床上出现的症状复杂多样,其中最主要的表现为运动、感觉、自主神经以及意识方面出现功能性障碍。如果接受正规的抗癫痫药物治疗,70%的患者可以得到有效地控制,另有30%左右患者由于持续存在的病因,使用抗癫痫药物难以完全控制癫痫发作,此类患者可通过外科治疗控
在超级电容器电极材料中,二元镍钴基材料由于其优异的赝电容性能、低成本、资源丰富、环境友好、高稳定性等特点而受到广泛的关注。但是二元镍钴基材料固有的较差的电导率会使其电容性能减弱,限制其在高性能超级电容器中的广泛应用。在镍钴基材料中引入碳基材料是提高其导电性的有效途径之一。高柔性、高比表面积、高导电性的碳骨架不仅可以提高镍钴基材料的导电性,而且可以起到防止活性物质团聚的作用,还能提高复合材料充放电过
常言道“吃五谷,生百病”。现代社会,由于人们的生活、饮食常常不规律、不科学,加上普遍快节奏的生活方式以及各种强大的压力,很多人的胃肠都处于亚健康状态。胃肠疾病包括急
携带轨道角动量(OAM)且具有螺旋相位的波场已经在物理学的许多分支被实现,如光子,声波,电子束和中子。然而,作为现代磁学基础的磁振子(自旋波)的OAM态,尤其是其实际意义,还有待探索。本文从理论计算和数值模拟两方面研究了铁磁纳米圆柱中携带轨道角动量自旋波的产生与传播,并得到自旋波的本征模式,揭示自旋波的OAM性质。随后建立磁性界面通过交换作用耦合在一起的铁磁纳米圆柱|纳米圆盘异质结构模型,通过微磁
在2009中国国际信息通信展览会上,大唐移动凭借在TD—SCDMA领域11年的深厚积累和丰富的网络部署经验.连同在TD—LTE方面的领先优势,以“创新引领发展。服务共赢未来”为主题,以优
为了探索新型功能材料的先进制备技术,针对具有优异光、电性能的功能材料如ZnO、ZnS、LiNbO.铜盐、镁盐等,采用溶液反应从热力学和动力学两个重要因素出发,合理调控其颗粒的微观
新课程改革背景下的高考强调对学生化学学科能力和核心素养的考察,注重对化学核心概念、原理的理解和应用。高考试题兼具基础性、综合性与应用性,要求考生掌握必备知识,强化
地震危险性分析工作在我国已趋于成熟,而海啸危险性分析则刚刚起步.论文从介绍海啸危险性分析的基本原理和步骤出发,基于数值模拟技术,针对我国南部沿海的大鹏湾附近场点开展地震海啸危险性概率分析,给出了超越概率曲线,为实现我国沿海地区地震海啸危险性区划图具有一定参考意义.