卷积神经网络（Convolutional Neural Network,CNN）已经被广泛地应用在许多人工智能平台中。但是,由于卷积神经网络的推理过程涉及大量的数据迁移以及复杂的数据计算,它们仍然很少被部署在移动或边缘平台上。新兴的神经架构（Neuromorphic Architecture）旨在结合存内计算技术（Processing In Memory,PIM）来减少数据迁移,它采用三维堆叠的形式将计算资源放置在存储资源的附近以降低数据迁移的开销。这种新兴的神经架构为加速卷积神经网络的推理过程提供了一种有效的解决方案。在这种架构的基础上,卷积神经网络应用能够被高效地部署在移动或边缘平台上。由于新兴神经架构上的资源仍然是有限的,因此加速推理过程的关键就在于如何充分利用神经架构中的计算和存储资源。本文针对在新兴神经架构上推理所涉及到的任务调度、资源分配等问题开展了相关研究工作。首先,本文提出一种基于有限资源推理的任务调度策略—Mobile-I策略。Mobile-I策略旨在结合新兴的神经架构通过软件调度的方法来提高卷积神经网络的推理速度。Mobile-I策略首先抽取卷积神经网络推理过程中涉及的计算任务以及数据依赖关系,并据此构建有向无环图模型。其次Mobile-I策略设计了一个高效快速的初始调度,最后根据卷积神经网络不同任务之间的时间差异来调整初始调度。实验结果显示,相比代表性的方案,在实际的卷积神经网络应用数据上采用Mobile-I策略可以降低40.21%的推理延迟,取得高达96.14%的处理器利用率。其次,本文提出一种面向存内计算架构的资源分配策略—Mobilance策略。Mobilance策略针对神经架构中的计算和存储资源设计了高效的资源分配方案以提高资源的利用率。Mobilance策略首先分别定义了计算和存储资源的分配问题,并证明了它们的最优子结构。其次Mobilance策略分别采用不同的优化模型来解决这两个分配问题,最后结合两个分配结果获得最终的组合调度。实验结果表示,相比代表性的方案,在实际的卷积神经网络应用数据上采用Mobilance策略可以降低25.76%的推理延迟,取得高达95.79%的处理器利用率。本文提出的两种策略有效地提高了卷积神经网络在新兴神经架构上的推理速度,提高了新兴神经架构的资源利用率。本文提出的两种策略能够被应用在多种基于新兴神经架构的移动或边缘设备上,具有良好的可移植性。未来,我们计划将研究能耗问题对移动边缘推理的影响,增加优化的神经网络种类,探索更多的神经架构,以提出更为通用的加速推理策略。