深度模型对计算和存储资源需求的不断升级,逐渐成为制约其落地于资源受限节点的桎梏,并由此引发了学界和业界针对深度模型压缩优化研究的热潮。在研究初期,研究人员分别从低秩分解、权重剪枝、权重量化、知识蒸馏、创建紧致网络等不同角度展开研究,并取得了显著成效。随着研究不断深入,研究人员逐渐认识到之前的研究方案之间存在一定的可融合性,可以通过“扬长避短”达到更好的压缩成效。在现有模型压缩方法中,权重剪枝通过不断“删减”冗余参数或卷积核从而实现模型稀疏化效果;而知识蒸馏以“教师网络”为“引导”,不断“增加”“学生网络”规模,从而获得学生网络精度的提高。其中,一“减”、一“增”看似方向不同,但可殊途同归达到一致的压缩优化效果。将两者结合使用,可从“双向”快速提升模型的优化效果。与以上两类压缩方法不同,权重量化则是通过减少表示权重所需的比特数实现,由于其与待部署的硬件资源限制直接相关,因此几乎所有算法都需要与权值量化结合才能在各类硬件平台上部署。鉴于上述思想,本文结合权重剪枝、权重量化和知识蒸馏的优势,实现了更高效的模型压缩框架,并将其应用于目标检测的经典模型YOLO网络压缩中,使其能够部署在资源有限的嵌入式平台。本文的主要工作包括如下两个方面:1.提出了“基于权重剪枝-权重量化-知识蒸馏结合的深度神经网络模型压缩优化框架”,实现了对模型多角度压缩的效果。该框架使用权重剪枝和权重量化对原始网络模型进行双重粗粒度压缩,以得到“学生网络”,而后以原始网络为“教师网络”,“指导”压缩后的“学生网络”进行训练,以提高“学生网络”的精度。实验表明,在VGG-16和自定义的分类网络上,该方案与未使用压缩框架的模型相比,在保证精度的同时可以有效降低网络的计算量。2.应用上文提出的融合框架在“基于YOLO的苹果缺陷检测模型”中,解决了因YOLO模型较大而不便移植到嵌入式设备的问题。首先采用YOLO框架实现对苹果缺陷的识别与检测,而后将深度模型压缩技术应用于YOLO的骨干网络,并将优化后的检测网络移植至Jetson tx2设备运行。实验证明,压缩后的YOLO模型可以部署在Jetson tx2上,在损失少许准确率(不影响判断结果)的前提下,获得了处理帧率的明显提升。