神经网络作为AI算法中典型应用广泛应用于图像识别、物体检测、手势识别和自然语言处理等多个领域。在系统处理神经网络应用时,计算需求可达数十亿甚至百亿次。现有系统大多采用数据总线实现片外存储器与计算单元间的数据通信,系统的访存带宽低,难以满足处理神经网络应用过程中的通信需求,导致现有的神经网络加速系统性能提升遇到瓶颈。片上网络(Network-on-Chip,No C)将网络技术引入芯片设计中。基于片上网络的神经网络加速系统,通过数据重用的方式减少访问片外存储器的次数,缓解系统的访存压力,同时提高计算单元的工作并行性,加快系统的处理速度。基于片上网络的神经网络加速系统存在计算单元映射策略不合理和系统处理流程效率低等问题。如何优化计算单元映射策略并设计高效的系统处理流水线,成为基于片上网络的神经网络加速系统的研究关键。在计算单元映射策略方面,由于神经网络应用的处理过程具有较强的规律性,现有神经网络计算需求映射到片上网络架构时,数据传输使用信道单一,导致片上网络架构中部分通信资源不能充分利用。针对计算单元映射策略不合理的问题,本文设计了基于片上网络多通道并行化的神经网络加速方案(Multiple Channel Parallelization Acceleration Strategy,MCPAS)。该方案将多次卷积计算需求映射到同一组计算单元上,通过片上网络中不同的数据通道进行数据的并行传输,针对多次卷积计算导致数据处理需求的增加问题,设计了依据时隙处理不同数据通道传输数据的计算单元映射策略,减少数据通道及计算单元的闲置时间,增强了数据处理的并行化,提高了系统的处理速度。本文实现了基于FPGA的MCPAS加速方案演示验证原型,测试结果表明,在处理vggnet-16的推断过程中,使用加速方案MCPAS比传统软件方案和传统硬件方案的速度提高了430%和237%。在系统处理流程方面,当系统处理流程未流水线化时,片上网络中传输的数据分组包含的微片数量少,导致通信资源利用率低以及有效数据传输率低。针对系统处理流水线效率低的问题,本文设计了基于计算单元处理并行化的神经网络加速方案(Pipelined Transmission Computing unit Acceleration Strategy,PTCAS)。结合神经网络应用数据重用性强的特点,该方案利用流水线技术,使用由多个乘法计算单元构成计算簇,利用相同的输入图像数据,处理不同组卷积核的卷积计算,将计算簇中的计算结果组成数据分组进行传输,形成高效的多单元处理流水线,减少传输信道的闲置时间,提高有效数据传输率。仿真结果表明,使用加速方案PTCAS比传统硬件方案的处理速度提高了133%,结合MCPAS和PTCAS方案的加速系统比基于传统硬件方案的处理速度提高了357%,相比单独使用两种加速方案性能获得进一步的提升。