当前人工智能技术蓬勃发展,其所依赖的大数据、深度学习算法和硬件也在日新月异的更新。算法方面,各种全新的神经网络算法被提出来,而这些算法大多需要有较高质量的数据要求。硬件的能力往往是这类大数据量、高计算量任务的瓶颈。对于深度学习日益的关注极大的刺激了智能芯片的设计,各大公司都提出了相应的硬件设计方案。芯片越来越多,如何公平和系统化的评估这些芯片性能,优化这些硬件成为一个研究的热点。因此,本文提出一种基准测试方案,用于智能芯片的评估并在评估后进行分析,指导软硬件的优化。本文首先概述了当前基准测试方案,分析其中的不足,指出了其中存在的问题,然后研究分析基准测试方案的关键要素,增加了分析方法和优化手段以便为开发者提供优化建议。本文主要从四个方面对基准测试方案进行设计。第一,基准测试方案套件设计。该套件从三个维度进行设计,包括微基准,中间基准和宏基准,分别用来测试硬件基础性能,分析硬件瓶颈,比较硬件性能。第二,评估指标。从多个方面对硬件性能进行评估,包括硬件基础性能,功耗,面积和准确度。第三,分析方法。从基础测试和性能剖析两个方面进行分析,基于测试结果探索硬件性能边界,分析限制性能发挥的瓶颈。第四,优化方法。基于分析方法中的瓶颈限制,寻找优化点,不仅仅从硬件方面进行优化,还结合软件算法,从提高硬件利用效率的方面进行软硬件协同优化。最后,本文基于基准测试方案,搭建GPU验证平台。对于基准测试方案中四方面的设计进行仿真验证,采用基准测试方案中的测试程序集和评估指标获取硬件信息,对硬件进行瓶颈分析,利用方案中的优化手段从硬件基础性能和软硬件结合两个方面进行了优化。