随着人工智能的快速发展,深度学习技术在物联网行业的应用不断繁荣起来。SAR卫星图像检测,行人检测,自动驾驶等等的应用层出不穷。为了适应高准确率的检测效果目标检测网络的层数被设计的越来越深,与此同时带来的计算量也变得大了起来。我们知道目标检测算法从开始的设计到实际部署每一环都是至关重要的,不仅仅是以计算量的大幅度增加为代价来提高检测的准确度,还要顾及到目标检测算法部署到实际生活场景中的所遇到的困难。在现实生活中大规模应用的嵌入式设备往往是预算有限的（计算力比较低）,比如NVIDIA Jetson Nano低功耗模式可用USB供电只需要5w就可以运行,NVIDIA Jetson Xavier NX最高功率模式才15w,譬如这些设备是不能与高计算能力的服务器端设备进行比较的。所以设计一个合格的具有现实意义的目标检测网络不能为了一味的追求高准确率而忽略了它的实际应用能力。那么如何在不掉大量精度的条件下对网络进行优化设计,使得模型推理速度提高是本文的主要研究方向。本文以SAR舰船图像检测为背景,主要创新工作和研究的成果总结如下:（1）为了解决在有限计算能力的嵌入式平台上实时推理目标检测模型的难点,文章提出了基于深度学习的目标检测算法加速方案。首先,对基于YOLOV3原始的高计算量的目标检测模型进行特征提取网络的替换。在保证一定准确率的前提下,把复杂的特征提取网络替换成更轻量级的MobileNetV2。其次对复杂的目标检测模型进行结构化剪枝,分别剪去原始模型30%、50%的参数量,使其去掉部分冗余参数得到更优的推理速度。最终相比于原始的SAR图像检测模型在控制准确率平均损失在1.47%左右,速度平均可提升40.1%。采用优化方案后的SAR图像检测模型在提升了速度的同时保证了准确率。（2）为了解决从服务器上训练完成目标检测算法到应用在小型智能化平台上的难点,文章提出了一套完整的可执行的部署方案。文章使用NVIDIA提供的TensorRT前向推理加速方案,使用TensorRT可以对原始的目标检测模型进行结构的相似性融合,通过降低了对CUDA核的调用来起到加速效果,同时文中实验还使用了TensorRT的INT8低比特量化方法对目标检测模型做了进一步的提速。不同框架之间可以采用开放神经网络交换格式（ONNX）来进行模型间的转换,在转换成TensorRT支持的模型后就可以脱离原始的训练框架直接进行推理。实验最终实现了从服务器上训练完成目标检测算法到部署在小型智能化平台上的一套完整流程。