近年来，大量的智能手机、嵌入式设备、传感器节点等设备产生了海量的数据，相比于传统的数据处理方法，基于深度学习的卷积神经网络可以更加智能地分析和处理这些数据。然而，卷积神经网络在计算和存储方面都是十分密集的，这使得他们很难被部署到资源受限的系统中，从而也限制了它们的广泛应用。本文基于卷积神经网络的特点，首先对原始卷积神经网络进行裁剪，剪去不重要的连接，从而将密集的卷积神经网络模型转换成稀疏模型，在这个过程中为了保证模型的准确率不受影响，需要对剩余的稀疏模型进行再训练从而使模型的准确率达到之前的精度。而稀疏模型的参数在计算机内部以稀疏矩阵的形式进行存储，于是我们对稀疏矩阵使用针对性的CSR策略进行存储，并取得了非常好的效果。观察到权重值占用了约79％的存储空间，我们就对权重值进行了量化处理，从而只需存储权重的索引值来实现压缩权重值的目的，在这个过程中需要对权重值进行聚类量化，如果选取的质心的数量过少则可能导致模型精度下降，所以应该根据情况选取合适数量的质心，本文使用均匀选取的策略对每一层参数选取了64个质心。经过量化处理后，可以发现所存储的每种索引的数量不是均匀分布的，为了进一步压缩，我们对这些索引值进行了哈夫曼编码从而实现了最大化的压缩效果。这个压缩过程可以在不影响精度的情况下，将原始的卷积神经网络模型压缩30倍。然后对这个压缩过程进行了分析，由于裁剪之后的稀疏网络需要进行再训练以达到原始模型的精度，所以我们只对后续步骤提出并实现了并行压缩卷积神经网络的系统架构，使压缩过程相比之前提升35％，同时对参数还原过程进行并行优化，使并行还原的速度提升大约30％。我们也发现，稀疏模型的再训练过程占用了大量的时间，如果能对稀疏模型的再训练过程进行并行优化则可以显著减少整体的压缩时间，我们也将这个问题作为后续的研究方向。对卷积神经网络模型进行压缩解决了该模型占用较大存储空间的问题，可以促进卷积神经网络的广泛应用。