论文部分内容阅读
近年来,大数据催生的很多以数据为中心的技术和应用对计算机内存的容量、速度、能耗提出了更高的要求。传统的DRAM内存技术因其存储密度小,易失性和静态功耗大等问题难以满足新的技术对于大容量内存的需求。为解决传统计算机主存面临的瓶颈,由非易失存储器(Non-Volatile Memory,NVM)和DRAM共同组成计算机内存的混合内存技术的提出受到了学术界的广泛关注。这种新的内存结构的出现对整个系统结构带来了深刻的影响,主存结构的改变首先会直接影响到缓存系统的设计。研究发现:在混合内存环境下,由于末级缓存的DRAM数据和NVM数据存在缺失惩罚不对称的现象,传统的通过优化缓存命中率来提升缓存性能的方法在混合内存环境下不在有效。另一方面,缓存的访问模式的动态变化也是影响缓存性能的关键因素。缓存在整个存储体系中的作用至关重要,本文针对如何改善混合内存系统中缓存的性能进行研究,综合分析了不同访问模式的特点以及混合内存环境的特征,通过设计合理的缓存管理策略来优化混合内存系统的性能。本文的主要研究内容如下:
(1)访问模式的动态变化是影响缓存性能的关键因素,另一方面,在混合内存环境下,不同类型数据的竞争也是需要考虑的重点。首先,本文通过对不同类型访问模式的特征进行分析将其分成了两大类:LRU型和LFU型。在这两类访问模式下同时考虑了DRAM与NVM数据的竞争问题,分别提出两种缓存替换策略LRP和TLRP。然后采用Set Dueling技术将两种替换策略结合,使缓存在能够感知到访问模式的变化,及时的选择出最优的替换策略,形成一种动态可调整的等级替换策略DLRP。DLRP替换策略在保持整体命中率较好的同时也降低了NVM的缺失和写回。最后,实验结果验证了在混合内存环境下DLRP能够有效的改善缓存的性能。
(2)混合内存技术对多核系统下的缓存管理策略也带来了新的挑战,由于多核环境下,共享末级缓存存在严重的线程间干扰问题,需要根据每个核的缓存访问特征合理的分配末级缓存资源。首先,本文设计了缓存访问监测模块用来监测每个核对末级缓存的访问,利用监测模块可以识别出各个核的访问模式以及NVM的缺失信息。然后本文设计了基于NVM缺失感知的缓存划分策略。NMAP策略综合考虑各个核的访问模式以及NVM缺失数据的差异,合理的为每个核分配缓存空间。此外,NMAP策略采用了半共享式的缓存划分机制,有效的提高了每个核的可用缓存空间,进一步降低了NVM的缺失,优化了系统的整体性能。实验结果表明,面对混合内存结构的多核环境,NMAP策略相比于其他缓存管理策略,系统的性能和内存能耗表现更优秀。
(1)访问模式的动态变化是影响缓存性能的关键因素,另一方面,在混合内存环境下,不同类型数据的竞争也是需要考虑的重点。首先,本文通过对不同类型访问模式的特征进行分析将其分成了两大类:LRU型和LFU型。在这两类访问模式下同时考虑了DRAM与NVM数据的竞争问题,分别提出两种缓存替换策略LRP和TLRP。然后采用Set Dueling技术将两种替换策略结合,使缓存在能够感知到访问模式的变化,及时的选择出最优的替换策略,形成一种动态可调整的等级替换策略DLRP。DLRP替换策略在保持整体命中率较好的同时也降低了NVM的缺失和写回。最后,实验结果验证了在混合内存环境下DLRP能够有效的改善缓存的性能。
(2)混合内存技术对多核系统下的缓存管理策略也带来了新的挑战,由于多核环境下,共享末级缓存存在严重的线程间干扰问题,需要根据每个核的缓存访问特征合理的分配末级缓存资源。首先,本文设计了缓存访问监测模块用来监测每个核对末级缓存的访问,利用监测模块可以识别出各个核的访问模式以及NVM的缺失信息。然后本文设计了基于NVM缺失感知的缓存划分策略。NMAP策略综合考虑各个核的访问模式以及NVM缺失数据的差异,合理的为每个核分配缓存空间。此外,NMAP策略采用了半共享式的缓存划分机制,有效的提高了每个核的可用缓存空间,进一步降低了NVM的缺失,优化了系统的整体性能。实验结果表明,面对混合内存结构的多核环境,NMAP策略相比于其他缓存管理策略,系统的性能和内存能耗表现更优秀。