从计算机视觉到语音识别,再到自然语言处理,卷积神经网络的应用越来越广泛。然而随着深度卷积神经网络的快速发展,网络的层数和模型的体积也在不断扩大,庞大的规模和高昂计算复杂度使得这些模型很难部署和应用于自动驾驶等实时性要求较高的场景,以及车载设备,移动手机等在计算能力、存储容量等资源受限的环境中,制约了其在更广阔领域的应用和推广。同时,这也对深度学习算法、设备的性能提出了新的需求,越来越多的深度学习领域的企业和专家开始关注这一重点方向。因此优化卷积神经网络结构,压缩并加速网络模型已成为工业界和学术界亟待解决的难题。针对以上问题,本文分别从不同的神经网络入手。(1)从深度卷积神经网络的结构特点出发,结合现有的模型压缩算法,提出了一种将剪枝、流合并相结合的混合压缩算法,实验结果表明,在精度不受损失的情况下,降低了模型冗余参数的同时还将网络的结构进行了精简,证明了方法的有效性。(2)为了使压缩的方法更具有通用性,实验尝试将知识蒸馏和参数剪枝相结合的方法应用到深度卷积对抗神经网络(DCGAN)中,将知识蒸馏应用在抗神经网络中,来指导生成器构成的学生网络,实现了在无数据的情况下利用教师网络的学习能力,来指导具有较少参数的学生网络也具有良好的学习能力,同时将具有分类能力的学生网络进行参数剪枝并进行微调,实验发现在不影响模型精确度的前提下,DCGAN网络的内存消耗以及运行速度都有明显提高。综上所述,本文实现的深度学习模型压缩方法具有如下优势:第一,相对于其他的模型压缩方法,本文提出的混合压缩算法从内存占用,运行速度以及学习能力等方面都有具有良好的表现;第二,算法本身具有通用性,将方法应用在对抗神经网络中,并取得了在无数据的环境下进行学习和分类。