近年来,以卷积神经网络为代表的深度学习技术已被应用于越来越多的场景中。然而,卷积神经网络的体积和计算量通常过于庞大,对内存、带宽和计算资源都有很高的要求;尽管各类硬件设备的性能也在提高,但仍然跟不上大型网络的发展速度,这使得卷积神经网络的进一步推广受到很大的限制。因此,如何在保持卷积神经网络的性能的前提下,对其进行压缩和加速,成为一个亟需解决的问题。此前已有不少学者对卷积神经网络的参数量化、结构剪枝、权重低秩分解以及硬件实现等方向进行过研究,其中一些工作还对多种技术进行了组合。本文也提出了一套将量化技术和剪枝技术级联组合的解决方案,分别对这两项技术进行了改进,并引入知识蒸馏技术来弥补压缩操作所带来的性能损失,主要的工作如下:针对卷积神经网络难以被量化至极低精度的问题,使用了混合精度的量化方案,允许各层使用不同的量化位数;并且提出了一种渐次量化的策略,能够在较短时间内为各层参数挑选最合适的精度。实验结果表明,使用该算法可以更加灵活地对卷积神经网络进行修改,有效降其参数的体积。针对剪枝的准确性问题和可推广性问题,提出了一种结合了全局信息和局部信息的通道重要性评分方法,并设计了一种基于评分结果自动确定各层裁剪比例的剪枝策略,还对不同类型的卷积神经网络的裁剪方法进行了研究。实验结果表明,该算法对于多种卷积神经网络均有效果,能够同时减小体积和计算量的规模。针对上述方案的可行性问题,在FPGA平台上对压缩前、后的卷积神经网络进行了实现,并对比二者所需的硬件资源数量和计算延时。实验结果表明,此方案在FPGA上也能实现对于卷积神经网络的有效压缩和加速,但与理论效果之间具有一些差异。