大规模通用后缀树构建分布并行算法研究与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:trittt
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
通用后缀树是一种对序列集合中的所有序列的后缀进行索引形成的数据结构。其不仅可以高效解决诸如序列匹配与查找、最长公共子序列查询等很多基本序列分析问题,而且在DNA序列匹配、代码克隆检测、语言模型、序列模式挖掘等场景下有很大的应用价值。通用后缀树构建是一个大型复杂算法,其构建过程涉及大量复杂计算和I/0,使得构建过程复杂而耗时。尤其是,大数据时代,很多应用问题的数据集规模巨大,使得大规模数据场景下的通用后缀树构建变得更为复杂,难以在较短时间内快速完成构建。因此,大规模通用后缀树构建成为领域内的一个基础性研究热点问题。过去数十年来,后缀树构建已有诸多相关的研究工作。但现有研究工作仍存在三方面的主要问题:第一,现有研究工作并没有直接解决通用后缀树的构建问题,而是研究通用后缀树的特例——后缀树的构建算法,再转换为通用后缀树,这种做法对通用后缀树构建问题的特殊性,例如输入形态的多样性考虑不足;第二,经过几十年的发展,现有的后缀树构建算法虽然取得了长足的进步,但仍存在着I/0难以优化、未考虑数据扩展性、性能不稳定等问题,难以支撑大规模场景下的后缀树构建任务;第三,现有研究工作大多基于单机或超级计算机设计,大数据应用需求背景下,基于单机设计的传统算法难以应对大规模数据集的处理,而基于超级计算机设计的算法应用门槛太高、代价较大。大数据时代,基于分布式集群的大数据并行处理平台搭建成本低、易于维护、扩展性好,已成为解决大规模问题的主流计算平台。但目前尚缺少大数据应用场景下高效可扩展的大规模通用后缀树构建算法,设计并实现大规模通用后缀树构建分布并行算法存在着诸多技术难点。首先,算法需要针对大规模分布式场景,充分发挥分布式存储以及并行计算的优势;其次,算法需要具有良好的通用性,对不同的输入序列形态(例如大量短序列、一条长序列、若干长度差异很大的序列等)均需具有良好的处理能力,并具备良好的可扩展性以及较高的计算性能。基于上述问题背景,本文研究实现了一种分布式场景下的大规模通用后缀树并行构建算法LMdst,支持对不同规模和各种输入形态的序列数据,构建通用后缀树。本文的主要工作内容以及贡献点如下:(1)研究提出了一种基于Lcp多路归并的高效可扩展的大规模通用后缀树构建分布并行算法LMdst。(2)研究实现了基于trie树的分布并行化子树划分方法,可以高效并行化统计子序列频数进而划分子树;针对子树划分,进一步提出了一种基于输入片段的数据划分方法,屏蔽了输入序列形态、数据存储等因素对算法性能的影响。(3)研究提出了基于Lcp-range的高效序列比较方法和基于败者树多路归并的后缀子树并行构建方法。以此为基础,设计实现了一套综合考虑计算和I/O的后缀子树批量构建优化方法。(4)研究提出了基于装箱和整数划分的子树构建任务分配方法,既能充分利用每个计算单元的计算资源又能在分布式场景中保持良好的负载均衡。(5)对算法进行了计算复杂度以及I/O开销等方面的理论分析,并基于Apache Spark平台设计实现了大规模通用后缀树构建分布并行算法LMdst,实验结果表明LMdst在大规模场景下具有优异的计算性能、近线性的可扩展性以及良好的通用性。本文工作所设计实现的大规模通用化后缀树构建分布并行化算法,在2017年教育部科技发展中心主办的第三届“全国高校云计算应用创新大赛”大数据技能赛全国总决赛上,以其优异的算法性能,获得第一名的成绩,荣获技能赛一等奖。
其他文献
阳离子染料是一种水溶性染料,种类多、色谱齐、颜色深、得色高,染料中的有色阳离子与纤维上的阴离子基团通过离子键结合而上染,近年来随着染料新用途的开发和市场的需求,阳离
[目的]幼儿拇指螺(Pollicaria gravida)被认为是蛹螺科(Pupinidae)拇指螺属(Pollicaria)的一个物种,至今在国内未见对活体标本进行系统的形态学和分子生物学研究的报道。本课
网络专题新闻具有专业性极强、受众范围有限等特点,在信息技术不断发展的今天,获取新闻的渠道越来越广泛,从而信息越发纷繁复杂,对于信息的收集整理难度大大加深。与此同时,
多孔氮化硅陶瓷(Porous Si3N4 ceramics,Si3N4-PC)因其优异的结构、力学和介电等性能,在宽频透波雷达罩、流体过滤器、催化剂载体、分离膜和人体组织构件等方面应用前景广阔。
通常,我们称线性码与其对偶码的交集为该线性码的对偶交.有限域上线性码的对偶交自1990年被提出以后,随着研究的深入而被广泛用于编码理论中的某些算法设计当中.循环码作为纠
钙信号调控着细胞内许多重要功能,包括短期效应如细胞兴奋-收缩偶联、分泌功能,和长期效应如基因转录、细胞增殖分化及细胞死亡。介导Ca2+内流的L型钙离子通道(L-type calciu
种子萌发是植物生长发育的起始阶段,是植物生长发育的基础。小麦作为非常重要的粮食作物,其种子萌发状况不好会影响小麦的生长发育甚至产量,因此为了提高小麦的产量对其的萌
癌症是威胁人类健康的重大疾病。目前,化疗仍是治疗癌症的重要手段之一,但化疗药物容易伤害健康细胞,降低患者的生活品质。此外,在化疗过程中出现的多药耐药现象也会严重影响
智能药物释放系统已经成为医疗领域的研究重点,可以有效缓解甚至规避传统药物释放系统存在的众多问题,如:副作用大、治疗效果差等。静电纺丝技术具备工艺简单、高效、操作便
当今时代信息规模爆炸式增长,为数据存储提出了巨大的挑战。基于网络节点集群的分布式存储系统比传统的存储阵列在性价比和扩展性上更具优势。为保证可靠性,分布式存储会采用