卷积神经网络(Convolutional Neural Network,CNN)具有良好的鲁棒性和容错性,是深度学习(Deep Learning,DL)的重要分支,已广泛应用于图像识别、语音识别和文本处理等领域。由于卷积神经网络存在大量的乘累加运算且数据量大,对硬件功耗和访存带来巨大挑战,传统的硬件设计已无法满足终端设备的低功耗和高性能要求。针对CNN各层的算法特性,满足芯片设计的低功耗多精度需求,本文对基于数模混合的高能效卷积神经网络加速器进行研究。首先,通过对网络中空间复杂度的分析,提出基于剪枝量化处理的卷积神经网络设计。在网络训练过程中,依据各层中不同卷积核绝对值和的大小,通过与预定阈值比较,剪枝掉绝对值和较小的卷积核,对于绝对值和分布不均的卷积层,则可以修剪掉较多的小卷积核而保留高价值的卷积核,以保证网络的精度要求。对于网络中生成的激活值,通过量化操作降低中间数据的位宽。同时,针对卷积层的乘累加运算特点,采用深层可分离卷积运算将标准卷积运算分为深度卷积和逐点卷积两个过程,逐点卷积可看作1×1的卷积运算,并采用模拟乘法器实现。通常情况下,深层可分离卷积运算可以使网络计算量降低约9倍。之后,采用模拟方法实现非规则网络层的运算。基于模拟运算分别设计数模转换和模数转换电路,实现数字量与电压量的相互转换。最后设计系数可调模拟乘法器和模拟加法器实现卷积神经网络的部分乘加运算,采用模拟乘法器可以极大地降低系统功耗且精度损失仅0.57%。本文使用Cadence软件在TSMC28nm工艺下,对数模混合的卷积神经网络加速器进行仿真验证,本文所设计的加速器可以实现5bit~8bit数据位宽计算。结果表明,在主频为100MHz,电路工作在0.9V电压下,数据位宽为7bit时,峰值性能为10.8GOPS,功耗0.43mW,能效为25.1TOPS/W。与主流设计相比,能效提高了14倍。