卷积神经网络(Convolutional Neural Networks,CNNs)因其极大地提高了图像识别的准确率,而在图像处理领域受到追捧。但是卷积神经网络带来了大量卷积操作,其计算成本往往令人难以接受。为了加快执行速度,学术界提出了多种解决方案。解决方案主要从两方面出发,一是加速算法,利用高效的卷积加速算法处理卷积层,提升执行速度。然而,每种算法都有其优点和缺点,并且没有一种算法可以处理所有情况。第二便是使用硬件加速器,定制加速卷积运算。但目前定制硬件加速器多主要采用传统的卷积算法,并且缺乏对神经网络稀疏性的支持,从而丧失了进一步改进硬件,提升硬件性能的空间。针对目前这两种方案的缺陷,本文首先提出了应对算法特性各异的解决办法。本课题研究了GPU环境下各种算法的性能,充分探索不同数据结构参数对算法性能的影响,包括执行速度,占用显存和功耗/能耗随参数变化情况。同时深入到GPU底层,跟踪计算过程中调用的内核函数,从而概括总结这些算法的特性。最后,根据实验结果,总结每种算法的适用条件,从而设计了优化算法调度策略。该策略为卷积神经网络中不同数据结构参数的卷积层分配最优算法。使用该策略,在GPU环境下执行的Alex Net网络模型相比其他配置方案要快1.2倍至2.8倍。这项工作成功地为解决算法特性各异问题提供了一个解决方案,并且实验结果也可以为进一步优化加速算法提供见解。针对硬件方案,本文设计了一款卷积神经网络加速器,该加速器是基于Winograd稀疏算法,该算法被证明有效减少了卷积神经网络的计算复杂性,并可以很好地适应稀疏神经网络。通过硬件与该算法的结合,可以在使用较少硬件资源的同时,取得相当高的性能水平。实验证明,相比于传统的硬件加速器,本方案将运算速度提升了近4.15倍;而从单个乘法器吞吐率的角度出发,本设计也将效率最多提高了近9倍。