近年来,边缘计算发展迅速,通常利用卷积神经网络实现智能计算任务,但边缘计算设备一般内存容量受限、实时性要求较高,而卷积神经网络模型普遍规模庞大,计算复杂,因此有必要对现有的神经网络模型进行压缩与加速。为了实现这个目的,在本文中分别从输入部分和权重部分这两个角度对其进行量化处理,进一步降低了参数冗余与结构冗余所带来的内存消耗和时间消耗。本文所做的工作主要包含以下几个方面:1)为了提高模型压缩率,在网络权重部分,本文采用BWN方案对其进行量化,在CIFAR-10和Image Net数据集上,模型分别压缩了29.5和30.8倍,接近理论值32。2)为了解决“梯度不匹配”问题,在网络的输入部分采用改进的2-bit半波高斯量化器进行量化,通过对半波高斯量化器的改进,可以把原始浮点型的卷积运算转化为同或和位计数操作的卷积运算,大大减少了计算开销,实验结果表明,相比于改进前,改进后的量化算法的加速比提高了10倍。3)针对同时对输入部分和权重部分进行量化可能带来精度损失严重的情况,本文提出了一种用于对模型进行微调的交替更新算法,相比于其它微调方法,该方案迭代次数少,效率高,微调之后的二值模型在CIFAR-10和Image Net数据集上精度分别提升了0.87%和2%。4)针对稀疏在网络模型压缩与加速所起到的重要作用,本文在半波高斯量化的基础上,通过引入稀疏率,探索了4个具有不同稀疏率的稀疏量化器对模型性能的影响,在Image Net数据集上的结果表明,稀疏对于网络的加速以及精度的提升具有一定的作用。在稀疏率为56.25%和62.5%下,相比于基准方法HWGQ-Net,加速比分别提高1.3倍和1.6倍,而Top-1精度分别提升1%和0.4%。随着稀疏率的增加,精度是先升后降,加速比则是不断提高,为了在精度与加速比之间取得平衡,选择的最佳稀疏率应为56.25%或62.5%。