自人工智能发展以来,深度学习算法特别是卷积神经网络CNN在计算、资源、功耗和成本均受限的嵌入式系统上的设计一直是一个比较热门的研究领域。CNN作为一种高性能的人工智能算法,可以广泛应用于人脸识别、行人检测和故障诊断等多个领域。它在嵌入式系统中的部署更是加速了这些应用的落地,使它们脱离服务器的束缚,真正服务于移动端和边缘端市场,具备很高的实用价值。CNN在嵌入式系统中的部署不仅涉及到了硬件设计更涉及到了软件设计,目前大多数研究者主要关注的是基于现场可编程逻辑门阵列FPGA的CNN硬件加速器设计,从系统级的角度去研究基于FPGA的卷积神经网络软硬件协同设计较少。此外,如果过度执着于追求足够快的硬件CNN加速器而忽略一些受限软件的性能,那么很可能会导致系统软硬件处理时间的不平衡,进而降低硬件CNN加速给系统带来的收益,造成了硬件资源的浪费。为了解决上述问题,本文提出了一种面向CNN的嵌入式系统。首先,针对嵌入式系统资源受限和CNN资源占用量大的矛盾,结合CNN的结构相似性,提出了基于FPGA的CNN硬件复用设计方法,以较低的FPGA硬件资源在嵌入式平台上部署CNN模型。然后,基于硬件复用提出了启发式软硬件执行时间平衡设计方法。该方法将系统软硬件执行时间融入进CNN硬件设计中,通过优化系统软件和CNN硬件的并行度来达到系统软硬件执行时间平衡的目标。最后,提出了一种软硬件协同设计方法设计并实现了面向CNN的嵌入式系统。该方法利用模块化思想对系统架构进行抽象,并结合抽象后各个模块的特点对系统进行软硬件划分,随后使用提出的硬件复用和软硬件执行时间平衡设计方法对划分后的模块展开软硬件协同设计,同时结合有效的软硬件数据交互和控制协议,在保证准确率和速度的前提下使系统节省了硬件资源,提升了CNN硬件加速收益。实验结果表明,本文设计的面向CNN的嵌入式系统在保证准确率和速度的前提下达到了接近1:1的软硬件执行时间比,而功耗仅为2.4W左右。相比于同类型的研究工作,系统达到了95%甚至99%的设备利用率,提升了28%～46%,且将能量效率从10帧/W以下提升到了10帧/W以上。更重要的是,硬件复用设计方法节省了系统中宝贵的FPGA资源。软硬件执行时间平衡设计方法提升了系统中软硬件设备的利用率,大大提升了CNN硬件加速的收益。