卷积神经网络(Convolutional Neural Networks,CNN)近年来在计算机视觉、自然语言处理等领域大放异彩,是深度学习中的代表算法。Res Net卷积网络模型是首个对图像的分辨能力超过人类的CNN算法,且深度首次达到了152层。但CNN算法通常都包含着大量的乘加计算。训练和推理过程都难以在传统的中央处理器中快速运算得到结果。所以研究人员提出了在各种硬件平台上对CNN进行加速的方案。X-DSP是国防科技大学微电子所自主研发的一款面向高性能计算的多核向量处理器,采用了11发射的超长指令集(Very Long Instruction Word,VLIW)架构,内部具有十分丰富的向量乘加计算单元(Multiply Accumulate,MAC),十分适合对卷积神经网络进行加速。所以我们非常有必要针对其特定体系结构设计Res Net卷积网络模型的实现方案。本文深入的分析了卷积、池化和全连接各模块的算法内部计算特点和多核向量处理器的体系结构特点,提出了一种将三维图像和卷积核数据转换为二维矩阵,然后按行计算的矩阵向量化实现方案,其具体的实现方案是:(1)卷积计算向量化:将图像数据以通道数为列,每个通道的图像数据为行展开为二维矩阵,我们提出每次将一个卷积窗口所有通道的数据作为子块传入SRAM中;将卷积核数据以卷积核个数为列,每个卷积核数据为行展开为二维矩阵,然后分为子块传入AM中。每次计算从SRAM中读取一个标量图像数据,然后广播成一个具有相同值的向量,从AM中读取一个向量卷积核数据进行乘累加计算,即一个图像数据可以和同时多个卷积核数据进行计算。(2)池化计算向量化:将图像数据以通道数为列,每个通道的图像数据为行展开为二维矩阵,然后分为子块传入AM中。每次计算从AM中按行读取两个图像向量进行比较,取较大值再与下一个向量图像数据比较,即可以在一拍中进行多个通道的图像数据比较。(3)全连接计算向量化:全连接层内核计算逻辑与卷积计算相同,采用和卷积计算一样的向量化方法。而如何对图像数据和卷积核数据分块是实现的一个难点,本文提出在卷积层内每次传一个卷积窗口所有通道的数据进入SRAM中,卷积核数据的分块方案根据体系结构特点确定,X-DSP一个单核的VPE数量是16个,一个VPE具有3个MAC单元,可以同时进行48个乘加计算,所以卷积核数据子块以48为列,行数以AM容量确定。在对数据传输时采用“乒乓”式的两级双缓冲的DMA数据搬移方式,平滑各级存储之前的等待开销。设计方案充分开发了多核向量处理器的多核间的并行性,单核内各VPE间的向量SIMD并行性,一个VPE内的多个FMAC计算单元并行性,并在用汇编语言实现时采取了填充延迟槽、软件流水、指令级优化等优化技术。最终在X-DSP硬件仿真器上进行测试,单精度的卷积单核核心计算性能可以达到189.96GFLOPS,非常接近峰值性能192 GFLOPS,效率高达98.94%。