近年来,卷积神经网络在图像分类、目标检测、人脸检测和人脸识别等领域有着重大的突破。然而,目前卷积神经网络模型存在参数量庞大,计算代价高昂等问题,使得模型难以部署到如手机、无人机、AR眼镜等资源受限设备中。因此,研究卷积神经网络模型压缩与加速具有重要的意义。本文从网络量化出发,通过将全精度网络模型参数和激活量转换为低比特定点数,极大地减小了网络模型所占的内存空间大小。与此同时,卷积操作中的浮点数乘法也可用定点数乘法代替,显著地降低了网络的计算代价。然而现有模型量化和训练方法还存在如下问题:(1)低精度模型训练难度大,导致量化模型性能损失大;(2)网络的权重和激活量服从非均匀分布,现有均匀量化算法难以拟合这些数据分布;(3)在网络的训练过程中很难选择合适的学习率。本文针对每个问题提出相应的改进方案。首先,针对问题(1),本文提出一种基于知识蒸馏的卷积神经网络量化训练算法。该算法引入相对熵损失函数来衡量全精度神经网络和量化神经网络的输出分布,然后同时训练全精度模型和量化模型,使得全精度模型能够给低精度模型提供额外的监督信息,减少低精度模型的性能损失。其次,针对问题(2),本文提出一种非均匀量化算法。该算法将量化函数中的均匀离散函数替换成可训练的非均匀离散函数,并同时训练卷积神经网络参数和量化器,以提升量化模型的性能。最后,针对问题(3),本文提出一种基于线搜索的优化方法。该算法通过线搜索自动选择合适的学习率,使得网络能够收敛到一个更好的局部最优解,从而提升模型的性能。通过大量的实验表明,本文所提出的三种方法能够有效提升网络模型的性能。