论文部分内容阅读
随着芯片集成度的提高,数字集成电路出现了两个重要的发展趋势：由利用指令级并行的单核处理器向利用线程级和数据级并行的多核处理器发展,由传统2D集成电路向多层堆叠的3D集成电路发展。存储子系统是片上多核处理器的最重要组成部分之一。片上存储器不但占用了大量的芯片面积和功耗开销,而且影响着多核处理器的性能。随着芯片上集成核数的增多,处理器核处理能力的提高,对并行数据访问的需求也将不断增大。传统单核处理器系统中的“存储墙”问题在多核处理器领域仍然存在,并且有进一步加剧的趋势。将片上多核处理器与3D集成电路技术相融合,通过堆叠高速缓存和主存到处理器层之上,并利用大量的层间垂直互连以增大存储带宽,可以减少存储器的访存延时,提高多核处理器的性能。3D集成技术有希望解决多核处理器“存储墙”问题。本文就是围绕着3D多核处理器存储系统设计问题,从该领域的若干关键问题入手,研究了两种有代表性的3D多核处理器：3D通用多(大核)处理器(Three Dimensional Chip Multi-Processor,3D CMP)和3D通用(众核)图形处理器(Three Dimensiona General Purpose Graphics Processing Unit,3D GPGPU)的存储架构及控制策略。试图找出3D多核系统的瓶颈,并改进其整体性能。论文主要包括以下几部分：本文研究了堆叠最后级缓存和主存对3D CMP性能的影响。针对网格(mesh)结构的3D多核片上网络(Multi-core Network on Chip,McNoC),提出了一种紧密集成的非均匀缓存架构(Tightly Mixed Non-Uniform Cache Architecture, TM-NUCA)。相比直接堆叠NUCA的3D CMP,采用TM-NUCA结构的3D CMP能最大提升31.71%的系统性能,并可最多减少15.74%的网络通信功耗。集成主存的3D CMP可采用非均匀存储访问(Non-Unform Memory Access, NUMA)架构。本文面向3D CMP,设计了一种可扩展的NUMA结构,片上主存被分为私有、共享及特殊目的存储器,并分布于多个处理器节点上。其中私有存储器访问延时不随处理器数量的增加而增加,对共享主存的访问延时取决于处理器与数据的相对距离。为了实现多处理器对共享存储器的协同并行访问,讨论了同步和存储器同一性的实现。通过实验验证,该分布式NUMA结构可有效支持3D多处理器对存储器的并行访问,并提供高效的系统加速比。高速缓存利用了数据的空间局部性和时间局部性,减少处理器对慢速存储器的访问,降低平均访存延时。当多处理器的缓存保持共享数据时,会带来缓存不一致的问题。因此缓存一致性是多处理器存储系统的重要研究课题。本文实现了一种基于微代码的软硬件结合的缓存一致性方案。并进一步提出了面向大规模3D CMP的基于簇的层次化一致性协议。通过分析,该协议相比扁平目录的一致性,具有更小的通信和目录存储开销。GPGPU是目前及未来有前途的众核处理器。本文分析了访存延时对GPGPU应用的影响,进而提出了堆叠主存的3D GPGPU架构设计。实验表明,相比2DGPGPU,堆叠主存的3D GPGPU可最大提升124.1%,平均提升55.8%的系统性能。通过功耗分析,堆叠主存的3D GPGPU比2D GPGPU有更好的存储系统功耗效率。通过热量分析,3D GPGPU的运行温度介于60到85摄氏度之间,属于3D集成电路可接受的温度范围。据我们所知,这是第一个从性能、功耗和温度方面研究堆叠主存的3D GPGPU架构设计。不同GPGPU应用对本地存储器(包括寄存器、共享存储器、1级高速缓存)有不同的需求。本文面向3D GPGPU提出了一种可重构的本地存储器系统。以GPGPU应用的内核为粒度,动态的将重构存储器配置成寄存器、共享存储器或1级数据缓存。通过实验验证,采用可重构存储器的3D GPGPU可有效的提升系统性能,相比未采用重构存储器的参考3D GPGPU’性能最大提升52.22%,平均提高15.87%。随着3D GPGPU本地存储空间的增大,部分应用分配到不同流处理器上的负载会变得不均衡。为了解决这个问题,本文进一步提出了一种Greedy-Lazy混合线程块调度策略。该调度策略分为Greedy和Lazy两个模式,在Greedy模式下可充分利用本地资源以提高系统性能,而当任务分配可能出现不均衡时,切换到]-azy模式以降低潜在的任务调度不均衡性。通过实验,Greedy-Lazy混合任务调度策略可以有效的降低任务分配的不均衡性,提升3D GPGPU的整体性能。