随着深度学习技术的发展,深度学习算法的准确性不断提高,通过深度学习来代替机器学习算法的方式被广泛认可,卷积神经网络是深度学习在计算机视觉领域的重要发展分支,它被广泛应用于图形图像处理领域中。在移动端设备日新月异的时代,移动端应用占据了应用市场的大部分,将卷积神经网络应用于移动终端不仅能拓展移动端应用范围,还能有效地降低卷积神经网络部署成本。但卷积神经网络在移动端设备上计算缓慢,无法满足应用的及时响应需求,因此,搭建性能优异的移动端卷积神经网络框架是推进卷积神经网络在移动端上部署的关键。利用深度可分离卷积和模型量化降低网络的参数量和计算量,利用移动终端中的ArmV7 CPU和Mali GPU加速卷积神经网络前向的计算过程。在CPU中利用汇编Neon指令和OpenMP多核技术加速卷积层和激活函数层,而在GPU端通过OpenCL异构并行框架调用Mali GPU中的着色器处理核心加速卷积和激活函数。充分利用移动终端上的多种计算资源,加速卷积神经网络前向的计算过程。在firefly RK3399开发板上,利用多种框架实现8位量化的MobileNetSSD通用对象检测网络,Mali T860 GPU完成一次前向耗时210ms,Arm CPU中两个Cortex A72核心完成一次前向耗时260ms,两种计算设备串行混合完成一次前向耗时190ms,视频处理的帧速可达到5fps。因Mali GPU在OpenCL框架中映射出的线程出较少,且在计算滑动窗口与卷积核内积时利用了OpenCL向量化加速,当卷积层的输入的宽高较小,通道数较大时,Mali GPU的计算速度较快。而Arm CPU上利用128位Neon指令一次计算4个32位数的算术逻辑运算,当卷积层输入的宽高较大,通道数较小时,Arm CPU的计算速度较快。利用Mali GPU和Arm CPU串行计算网络中各层,最大限度发挥两种计算设备的优势,加速卷积神经网络前向过程。