基于LSM-tree的读写效率优化研究

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:hhhanyin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络应用数据的逐年增加,非结构化数据的存储成为了当下存储系统的热点问题。键值存储系统针对数据密集型负载能够提供优质的服务,其采用的主流架构为LSM-tree(Log-Structured Merge-tree)。为提高读性能,键值系统在LSM-tree的基础上引入了布隆过滤器,利用布隆过滤器的快速筛选能力,大大提升了系统的读性能,但是布隆过滤器的误报同样会引发额外的I/O请求。键值分离通过在LSM-tree中只存储键来减轻I/O放大的问题。然而,当前的键值分离设计没有完全考虑顺序写与随机写之间的速度差异,因此存储空间在回收时,后续的写入操作会受到影响以至于造成写停顿。本文对键值数据库的读写性能进行研究,提出哈希结构的段式键值存储系统(Hash structure Segment KV Storage,HSKV)。1)为了加快写入的效率,HSKV更改内存中的写缓存结构,将要写入的键值对进行分段存储。2)由于LSM-tree存在读放大,为了提升查询性能,HSKV在选择性KV分离的基础上,提出一种基于哈希的KV/KP缓存机制。3)HSKV提出了新的垃圾收集策略,减少写停顿。4)HSKV使用模型建立索引,优化了查询过程,可以快速找到需要查询的key所对应的位置。5)HSKV优化了压实过程,且采用Level hashing来对压实过程进行辅助存储,能够加速压实速度。HSKV的目的是在更新密集型工作负载下,实现键值分离上的高更新性能。HSKV使用基于哈希的数据分组,将键值对顺序写入存储,并在内存中缓存较热的数据,以加快读写速度。将HSKV与目前已有的一些存储系统进行评估,HSKV最多能够提升4.5×更新吞吐量。
其他文献
近年来,《哪吒之魔童降世》《西游记之大圣归来》《大鱼海棠》等影片取得的成功引发了人们对国产动画电影的广泛关注,尤其对国产动画电影导演的非专业背景现象展开了热烈讨论。本文通过梳理国产动画电影导演的非专业背景现象,分析动画电影创作的工业化属性,探讨其引发关注的缘由与成功路径,进而强调工业化属性中包括导演在内的各环节人才成长的多样性是推动国产动画电影高水平发展的重要保障。
期刊
随着物联网技术飞速发展,工业生产现场的智能互联设备数量爆炸式增长,因此产生了海量数据,对数据的存储、处理和分析提出了更高的要求。边缘计算应运而生,在网络边缘部署边缘设备节点为用户就近提供存储和计算服务,大大降低时间开销,保障工业应用的实时性需求。边缘缓存将部分内容缓存到边缘服务器中,缓存性能将极大地影响用户请求的响应延迟。本文面向工业应用需求,研究了边缘网络中的缓存优化问题,提出相应的缓存替换算法
学位
<正>时间:2017年5月20日地点:上海某咖啡厅受访者简介:曲建方,辽宁省大连人,生于1935年12月;国家一级美术设计师,著名动画导演;在14集系列木偶动画《阿凡提的故事》中任阿凡提的形象设计者和美术设计,任该系列片第2—13集导演;任《大草原上的小老鼠》《马可波罗回香都》等影视动画的联合制片人。张娟(以下简称张):您1957年从鲁迅美术学院毕业后怎么到上海美术电影制片厂工作的?之后又为何会选
期刊
随着现阶段互联网的用户规模不断扩大以及网络应用领域的不断延伸,互联网服务需求不断增加,但现阶段的网络已经无法跟上需求,各种问题不断出现。由此下一代网络的理念也不断更新增加,我国也需要研发一套拥有自主产权的新型网络,来缓解网络问题,提升网络管理与服务能力。针对未来网络的构建需求,开展多维标识结构模型与设计原理和方法、基于多维标识体系的寻址实现方法等研究,并开展多维标识体系机理仿真验证研究。本文需要开
学位
随着云计算技术的普及,网络中涌现出大量功能单一的服务,但用户的需求通常需要不同的服务共同完成。为了满足用户不同的需求,Web服务组合技术应运而生。Web服务组合技术就是在资源池中,将功能单一的候选服务重新组合,构建功能更加强大、应用场景更多的复合Web服务来满足用户的需求。在此基础上,用户进一步对服务的完成时间、可靠性以及可用性提出了要求。因此,如何在云计算环境下选择出令用户满意的服务组合是当下的
学位
近年来,应用层DDoS攻击日趋猛烈,虽然当前针对应用层DDoS攻击的检测已经取得了一定的进展,但现有工作由于特征选取的片面性和随机性,只能够检测一种或其中几种特定类型的攻击,无法在多种应用层DDoS组成的混合攻击中保持较高检测率。另外,已知现有的应用层DDoS攻击检测方法都是部署在目标服务器处,攻击流量需要先进入机房入口再触发检测和清洗,当攻击流量超过目标主机机房入口的最大带宽时,入口网络会发生拥
学位
随着互联网与信息科技的快速发展,网民基数变得越来越庞大,互联网普及率急剧增长的同时使得基础服务同步扩张。随着越来越多的服务被注册到互联网中,用户面对大量功能相似类型相近的Web服务陷入了选择困境。与此同时,质量层次不齐的服务涌入互联网中造成了服务过载和混乱无序的状态。用户一时难以找出符合自身偏好的Web服务,并且对于服务提供商来说也是一种资源浪费。Web服务发现方法的出现极大地缓解了此类问题。现有
学位
当代社会的数字化需求不断增长,Web应用已与社会生活中的各个领域息息相关。为了适应软件行业快速变化的需求,Web应用开发方式逐渐趋向于敏捷开发。API测试作为Web应用在敏捷开发中的关键一环存在许多问题,比如系统用户界面迭代更新导致API测试用例编写消耗大;测试用例冗余及优先级不确定导致测试效率低;大多测试数据采用等价类法等方法生成,缺乏真实性导致测试质量差等。基于此,需要设计并实现一个Web A
学位
准确的网络流量预测不仅有助于合理分配网络带宽资源,改善网络服务质量,还有助于保障网络通信安全。因此,网络流量预测一直是网络领域的研究热点。回声状态网络(Echo State Network,ESN)具有强大的非线性处理能力和短期记忆能力,在回归任务和分类任务中得到了广泛应用。但是ESN在网络流量预测中仍然存在一些问题。首先,网络流量具有多尺度性、非线性和尺度依赖性,在网络流量预测时需要考虑网络流量
学位
近年来,随着区块链技术的快速发展,智能合约开始被越来越多的人应用于实际生活中。智能合约利用区块链去中心化、可编程的特性,将传统合同转变为代码的形式部署在区块链平台上,极大地降低了交易的成本,提升了交易的效率。但是,智能合约带来这些便利的同时也带来了安全风险。智能合约漏洞引发的安全事件频发,造成大量经济损失,提前发现合约中的安全漏洞是预防漏洞被利用的关键途径之一。然而,现有智能合约漏洞检测方法在漏洞
学位