近年来,深度神经网络技术在计算机视觉、机器翻译、推荐系统等领域中取得了突破性的进展。然而,巨大的内存消耗和计算成本阻碍了神经网络在移动端智能设备上的大规模部署和应用。因此,模型压缩技术应运而生,其通过压缩网络模型的参数量和计算量来提高模型在资源受限环境中的推理效率。本文主要在卷积神经网络的量化感知训练、训练后量化以及稀疏感知训练领域,以训练代价更低、量化精度更高和泛化能力更强为目标开展研究,主要工作内容和贡献如下:1、针对量化感知训练过程中的混合精度搜索问题,本文提出基于神经网络结构搜索的混合精度量化感知算法。首先,将模型的混合精度量化问题建模为神经网络结构搜索（NAS）的子问题。然后,将原本的并行卷积模块替换为高效的复合卷积模块,并对传统NAS超网的计算图进行重构,有效地解决了内存和计算成本随搜索空间维度线性增长的问题。进一步地,为了解决由极低比特量化所带来的训练损失波动问题,本文提出了目标损失锐度最小化的量化感知训练算法,通过在训练过程中同时最小化目标损失值和量化损失锐度来提高低精度量化模型的泛化性能。2、针对离线量化场景中模型精度损失的问题,本文提出基于自注意力权值印记的离线混合精度量化算法。首先,通过将激活值的量化过程纳入到模型权值的离线量化重建中,提出了关于模型权值量化和激活值量化的联合重建策略。该策略通过将激活值的量化校准过程与权值的量化校准过程相融合来提升低比特量化模型的泛化能力。其次,通过引入精度估计的思想,本文使用自注意力权值印记度量策略来获得不同模型压缩比下的混合精度配置,从而利用混合精度量化的优势以更高的灵活性实现进一步的离线量化压缩效果。3、针对现有稀疏感知训练算法的缺陷和局限性,本文提出基于结构增广的稀疏训练算法。从稀疏网络拓扑结构空间的维度出发,发现高稀疏度下的稀疏网络存在对整个训练集拟合能力不足的现象。本文通过在训练过程中给目标稀疏网络分配多个增广辅助网络来获得额外的监督信息,从而提升目标稀疏网络的泛化能力。此外,为了降低训练过程中的额外开销,增广辅助网络与目标稀疏网络之间将共享部分权值参数,并为不同稀疏网络层提供自适应的增广策略。最后,通过将不同稀疏网络部署在Ambarella CV22芯片上,分析了不同网络结构对稀疏网络实际加速比的影响。对于上述三个关键技术,本文在多种流行的网络结构以及不同规模的数据集上设计了大量的验证实验,充分验证了本文所提算法的有效性和优越性。