近年来,基于深度神经网络模型的智能算法在自动驾驶、智能可穿戴设备以及安防监控等实际应用中扮演着越来越重要的角色。模型轻量化作为深度神经网络部署到嵌入式设备和边缘设备上的前提,因而具有重大的研究意义和社会经济价值。针对现有卷积神经网络对设备性能要求高、占用存储空间大的问题,本文从模型剪枝和紧凑结构设计的角度对图像分类网络的压缩与加速开展研究,并提出了三种轻量化网络优化方法。本文的具体研究内容如下:1.本文研究了一种基于通道注意力和动态软剪枝的轻量化网络优化方法。针对现有基于L1范数相对值大小进行剪枝工作的不足:一些层中被移除的卷积核的L1范数相对较小但却对网络输出有较大贡献。本文通过为原始网络增加通道注意力模块的方式,让网络自己学习到重要的卷积核;并在模型训练时结合动态软剪枝机制,引导神经网络将信息（梯度）向重要的卷积核中转移,促使训练后网络中不重要的卷积核的L1范数保持初始化时的较小值。最终使得网络卷积核L1范数相对小的,绝对数值也小。从而在相同剪枝率下减小了原始模型的性能损失。2.本文研究了一种基于相似性剪枝的轻量化网络优化方法。针对现有基于卷积核重要性的剪枝方法在剪枝率较大时,剪枝后模型性能损失严重的问题。本文通过公式化描述,将相似性剪枝表示为一个剪去冗余程度最大的n个卷积核的最优化问题。然后从余弦相似度和信息相似度两个方面设计卷积核相似性度量函数,并在此基础上提出了冗余指数,用来描述一个卷积核与本层其他卷积核的相似冗余程度。最后基于冗余指数提出了一种基于卷积核相似度的剪枝方法,经过实验验证,该方法超过了许多基于卷积核重要性剪枝的算法。3.本文研究了一种基于紧凑模型结构的轻量化网络优化方法。针对现有轻量化网络中,深度可分离卷积中深度卷积核训练空值问题以及点卷积计算量、参数量过大问题,提出深度共享卷积,其减少点卷积层卷积核的数目并使用深度卷积对其输出特征做线性变换以补充缺失的特征图,进一步促进网络的参数共享和特征复用。针对使用倒置残差块可能产生的梯度消失或梯度爆炸问题,提出新的网络瓶颈结构,其在高维空间建立跨层连接,允许更多的信息在梯度反传时流向网络浅层,使得网络在参数量进一步压缩的情况下,减少模型性能损失。