GPU作为普遍用于深度学习模型训练的硬件平台,在应用时常面临着可用内存不足、核心利用率低等问题。本文以深度学习框架中的GPU高效利用问题作为研究对象,研究了提升GPU核心利用率以及降低GPU内存消耗的方法,并开发了 HelloDeep深度学习框架作为实验平台进行验证。深度学习框架是执行深度神经网络搭建、训练和推理的软件平台。为实现和验证本文提出的GPU高效利用方法,本文提出了一个面向GPU高效利用的深度学习框架HelloDeep。该框架以静态计算图为核心,以异步并行执行引擎保证计算效率,以静态内存池统一管理全局内存,提供用户友好的算子封装和数据处理方法。数据加载经常会成为神经网络训练工作流中的瓶颈,一个较慢的数据加载速度常会使得GPU处于等候数据就绪的闲置状态,降低了 GPU总体利用率。本文提出了一个高效数据IO模块,该模块基于生产者-消费者模型,采用多线程异步加载的方式加快数据处理速度。通过实验证明,该方法可以将神经网络训练过程中GPU的平均利用率从同步加载模式下的25%提高到90%以上。GPU可用内存不足是导致深度学习任务失败的重要原因之一。本文提出了一个GPU内存优化方法,提供3种可选的优化级别,方便用户根据实际情况选用。该GPU内存优化方法采用了变量重计算和内存交换策略来减少静态计算图中特征图的大小。通过在HelloDeep框架上的实验表明,本文提出的GPU内存优化方法相较于基线,实现了最小的特征图内存占用空间大小,并在多数情况下取得了 GPU运行时内存占用的最小值或次小值,验证了本文提出方法的有效性。本文所提出工作的创新之处在于:其一,提出了一个新的、强调GPU高效利用的深度学习框架HelloDeep;其二,考虑了前人工作中较少关注到的Cudnn辅助空间对GPU内存占用的影响,并对Cudnn辅助空间进行限制;其三,考虑了用户对不同级别的GPU内存优化的需求,提出了具有3种可选级别的GPU内存优化方法;最后,在HelloDeep上进行GPU高效利用方法的实现,其实验结果更接近实际环境,说服力更强。