日益复杂的战场电磁环境和未知的目标特性给雷达信号处理带来了更多的挑战。传统的雷达信号处理是基于模型的,主要利用模型的先验信息及相关信号处理准则设计信号处理方法,它使用了高斯的、线性的和平稳的假设。深度学习方法是一种基于数据的方法,它可以直接获得输入与输出之间的关系,本文研究如何在雷达信号处理中使用该方法。本文主要研究内容有:高斯和非高斯噪声条件下的确定性信号的神经网络检测器,对于运动目标的神经网络检测器,以及在预警雷达实测数据中使用该神经网络器的检测性能。本文首先将二元检测问题视为二分类问题,建立了使用神经网络进行信号检测的检测框架。提出了一种包含惩罚项的损失函数,以使得检测器能够满足雷达目标检测中使用的纽曼皮尔逊准则,给出了检测器的训练策略和网络结构。使用蒙特卡洛实验方法,估计了检测器在仿真数据和预警雷达实测数据中的检测性能和虚警率,并分析了实测数据对于传统检测器和神经网络检测器的影响。对比了经典方法,主要有匹配滤波、最优检测器和基于DFT的脉冲多普勒处理。本文主要有以下结论:1、通过调整本文所提出的损失函数的权值,在网络训练收敛时可以获得不同虚警率的神经网络检测器。2、对于存在最优检测的信号模型,例如高斯白噪声条件下的确定性信号检测,神经网络检测器能够逼近最优检测性能。对于最优检测无法实现的模型,例如非高斯和运动目标的检测,该方法的性能优于已有方法。3、对于匀速运动目标的信号检测,神经网络检测器的检测性能优于基于DFT的脉冲多普勒处理方法。4、预警雷达的实测数据的PDF和量化精度都会对检测性能产生影响。虽然实测数据中噪声并不服从高斯分布,但由实测数据训练的神经网络性能与匹配滤波基本一致。当对实测数据进行AD,量化精度过低时,检测器性能会明显下降。