深度学习模型的部署开始从原来的X86+GPU的大型服务器阵列逐渐迁移到智能手机,摄像头,传感器等这类ARM小型设备上。深度学习神经网络的层数较多,单个网络需要计算大量的数据。实时性和精确性的需求,对硬件的计算能力提出了很大的挑战。ARM设备相比同时期X86设备和GPU,其存在频率较低,计算速度较慢的问题,并且其核心数量、缓存大小、级数和内存空间往往不如后两者。这些问题使得在ARM设备上进行模型部署会遇到实时性不佳的问题。因此,本文提出了一种基于ARM处理器的深度学习优化的方法,对模型计算速率和存储空间使用作出了优化。本文从深度学习神经网络中的基本计算单元算子入手,优化GEMM算子和二维卷积运算算子。首先,以ARM Cortex-A72架构为目标架构,对其缓存的级数和每一级能容纳的数据量作出了分析。之后对GEMM算子计算耗费的次数,访存和写入操作的次数作出分析,并在此基础上解耦计算和数据调度,并使用分块策略来优化缓存使用率,在此基础上使用ARM NEON指令集来加速计算并减少读写操作次数,接着针对ARM处理器的流水线架构特征,使用指令重排列进一步优化流水线使用率。其次,对二维卷积算子的输入数据和卷积核数据展开成行向量并填充其数据量到4的倍数,将其内存访问模式改变为顺序访问模式,计算形式变更为GEMM计算,接下来使用与GEMM算子类似的策略对其进行优化。在对两个算子的计算速率和存储使用效率优化完毕之后,结合深度学习编译器TVM框架,将两个算子整合到TVM中,使得其能够参与实际深度学习模型的编译与部署,达到优化神经网络的效果。本文最后设计实验对单个优化后的算子和优化后的神经网络的计算速率、存储使用效率、预期使用周期数量等指标作出了测试,结果表明,本文的提出的优化方法能够有效提升算子和神经网络在计算过程中的缓存命中率和计算速度,验证了本文优化方法的有效性,在ARM架构上实现了一种对深度学习的优化方案。