深度学习和边缘计算的不断发展促成了边缘智能领域的诞生,边缘智能因为结合了两者的优势而具备巨大的应用潜力,但也面临着诸多挑战。其中,深度学习模型算力需求与边缘设备硬件性能之间不匹配的问题尤为突出。具体来说,因为深度学习的不断发展,相关模型变得愈发复杂,因而也就需要更多的算力支持,而这与硬件性能受限的边缘设备发生了冲突。该问题极大地影响了深度学习在边缘智能场景中应用的推进,如何解决这一问题成为了研究重点。因此,本文围绕该问题,针对以下内容进行了深入研究:（1）本文针对该问题综合分析现有方法,发现现有方法或是依赖于网络状态或是对模型精度影响较大。因而,本文提出了一种基于局部知识蒸馏的边缘通信压缩方法。首先对原始复杂模型进行分析并初次拆分;然后针对部分模型进行网络结构再设计,同时构建编码器-解码器结构用于压缩高维特征信息,以降低多设备协同执行深度学习模型推理时设备间的通信数据量;接着,为最大程度地降低模型结构调整造成的精度损失,本文利用局部知识蒸馏方法对模型进行训练;最后,按照编码器-解码器结构对新模型进行拆分部署。（2）本文针对网络动态变化的场景,提出一种自适应通信压缩算法,旨在根据网络带宽情况,自适应地调整模型编码器-解码器结构的压缩率,从而提高模型的有效精度;然后,针对现有跨设备任务协同算法通常是对于特定设备或任务的具体实现而缺乏通用性的问题,提出了一种通用的跨设备任务协同算法结构,用以保障多设备间协同任务的有序推进;最终,围绕本文提出的算法,在实验室自研编程平台的基础上,实现了基于多设备协同的深度学习模型推理系统用以完成边缘可编程控制器设备上协同任务的编程、编译与运行控制。最后,本文以经典深度学习模型为例,验证本文提出的基于局部知识蒸馏的边缘通信压缩方法的有效性。实验结果证明,该方法降低了传统方法对网络状态的依赖,尤其是在网络状态较差时,用于网络传输的耗时分别降低了83.46%、78.84%和89.66%,极大地提高了方法在低带宽情况下的有效性,同时保证了模型精度。并证明本文提出的自适应通信压缩方法在网络动态变化时能提高模型的有效精度。通过实际工程验证,证明本文提出的基于多设备协同的深度学习模型推理系统为本文研究的问题提供了有效的解决方案。