随着雷达技术的迅速发展,其应用领域不断拓展,现代雷达面临着更复杂的检测环境以及更多样的目标。在这种背景下,传统雷达目标检测算法已不能满足实际应用的需求,对微弱目标及复杂杂波环境中目标的检测性能受到限制。近年来,神经网络凭借着强大的特征提取能力、优秀的检测性能,使得雷达检测有了新的机遇,基于深度学习的雷达目标检测算法应运而生。但现有基于深度学习的雷达目标检测算法受到雷达设备及复杂多样的应用场景的限制,无法发挥其最优性能。针对此问题,本文首先从模型轻量化角度出发,对雷达目标检测的轻量化网络模型进行研究。在此基础上,为了进一步提高对微弱目标的检测性能,对复杂环境的雷达目标检测算法进行研究,具体研究内容如下:（1）针对基于深度学习的雷达目标检测模型参数量大、计算复杂度高、内存占用多以及实时性差的问题,提出了一种轻量化目标检测网络模型（M-YOLOv4）。该网络利用Mobile Net思想,通过改变骨干网络以及使用深度可分离卷积（Depthwise Separable Convolutions,DSC）替代原始卷积,极大降低了网络计算量及模型参数量。此外,为了在轻量化的同时保证模型的检测精度,使用多个倒置残差结构堆叠成骨干网络,实现多个特征层的特征复用;并在此基础上,引入SE注意力机制,对各个通道进行区分学习。实验对比结果表明,本文所提的新模型相比对比算法在保证检测准确度的基础上速度更快,实时处理性能更好。（2）针对在复杂杂波环境下微弱目标检测性能易受到杂波背景影响的问题,提出一种端到端的杂波抑制与检测的联合算法（Denoise-YOLOv4）,通过生成对抗网络（Generative Adversarial Network,GAN）和单阶段目标检测技术,实现噪声抑制及目标检测。对于噪声抑制问题,利用GAN的无监督对抗学习特点,构建了一个噪声抑制网络（DeGAN）,并在训练过程中加入两个新的损失项用来更好地指导DeGAN的生成网络训练,有效改善了噪声抑制的效果,在一定程度上解决了噪声对检测的影响。在此基础上,使用M3-YOLOv4作为检测模型,DeGAN生成网络的输出作为检测网络的输入,最后模型直接输出抑制后的检测结果,实现了噪声抑制和检测功能的一体化。DeGAN和检测网络M3-YOLOv4进行交替迭代训练,优化更新直至DeGAN和M3-YOLOv4都达到收敛。通过实验证明,本文所提算法可有效抑制距离多普勒（Range Doppler,RD）域上的噪声并检测出目标,相比对比算法,在低信噪比下的检测精度更高。