随着大数据、人工智能以及移动互联网产业的深入发展,数据规模呈现爆发式增长。应用程序和计算系统开始通过将更多的数据存储在内存中来提高数据传输、存储以及运算的效率,这也使得对大容量主存的需求变得愈加迫切。传统的动态随机存取存储器（Dynamic Random Access Memory,DRAM）技术在内存容量扩展时面临着价格高、密度低以及能耗高等挑战,使其难以匹配日益增长的数据规模。新型非易失性内存技术（Non-volatile Memory,NVM）的发展,凭借着价格低、密度高以及静态功耗低等优点,受到了越来越多的关注。然而,相比DRAM,当前NVM技术还存在着写时延高和写功耗高等缺点,使用NVM完全替代DRAM在短时间内还不可行。结合DRAM和NVM两者优点构建的异构内存架构,成为了内存容量扩展的一个极具竞争力的解决方案。在异构内存环境下,由于DRAM和NVM的内存访问时延相差较大,末级缓存不命中时,内存访问开销是不一致的。这种不一致使得传统的末级缓存优化机制效率较低,无法适用于异构内存系统。为了解决这个问题,在缓存替换、缓存旁路以及缓存分配三个方向对传统的缓存管理策略进行优化,有效地降低了异构内存系统的访存开销,显著地提高了异构内存系统的吞吐率和公平性。内存访问时延的不对称性使得末级缓存命中率不再能够有效地评估末级缓存的效率,传统基于提高缓存命中率的缓存替换策略在异构内存下也面临着效率不高的挑战。针对这个问题,将末级缓存不命中后访存开销不对称性考虑进去,利用平均内存访问时间作为异构内存下末级缓存效率的度量标准,并提出了一种缓存不命中开销感知的末级缓存替换策略MALRU。MALRU策略优先替换访存时延低的DRAM缓存块来减少末级缓存不命中开销,同时频繁被访问的缓存块驻留在末级缓存中来减少缓存颠簸的发生。实验结果表明,与异构内存系统中最先进的HAP策略相比,MALRU策略将异构内存系统的性能提高了13.1%。由于内存访存时延受到数据分布的影响,应用程序之间对系统资源的竞争不再是影响异构内存系统吞吐率和公平性的唯一因素。传统的末级缓存旁路策略没有将异构内存的特点考虑进去,无法准确地判断缓存块的权值以及异构内存下处于竞争劣势的应用程序。针对这个问题,提出了一种异构内存下缓存-内存协同的末级缓存旁路策略CMC。CMC策略指出了异构内存系统中影响系统公平性的三个主要因素,并提出利用访存请求的平均服务时间来量化异构内存下应用程序的竞争力。在内存层,CMC策略优先调度轻量级的应用程序来提高系统吞吐率,并通过优先调度平均服务时间高的应用程序来保证系统的公平性。在末级缓存层,CMC策略利用应用程序在异构内存下的访存行为指导末级缓存旁路僵尸缓存块,进一步提高了异构内存系统的吞吐率和公平性。实验结果表明,与经典的TCM策略相比,CMC策略对异构内存系统吞吐率和公平性的提升分别高达8.76%和8.99%。异构内存环境下,由于NVM访存时延是DRAM的数倍,末级缓存不命中时一些写请求比例高的应用程序会被阻塞地更加严重,加剧了系统吞吐率和公平性的下降。传统的末级缓存分配策略需要引入额外的硬件或者对现有的硬件进行较大的修改,无法应用到现有的商业处理器中。针对这个问题,利用高速缓存分配技术（Cache Allocation Technology,CAT）在真实物理机器上为应用程序分配末级缓存空间,提出了一种异构内存环境下基于应用程序聚类的末级缓存分配策略ACCA。ACCA策略优先满足内存访问轻量级和数据局部性友好两类应用程序对末级缓存空间的需求,显著地提高了异构内存系统的吞吐率和公平性。此外,ACCA策略通过在处理器运算和内存访问两个维度上对应用程序在异构内存下的竞争力进行量化,为写请求比例高的应用程序分配更多的末级缓存可利用空间。实验结果表明,与最先进的Dunn策略相比,ACCA策略分别将异构内存系统的吞吐率和公平性提高了9.83%和43.19%。