在杂波背景中获取感兴趣的目标,一直是雷达信号处理领域的热点问题。随着雷达探测环境愈加复杂,雷达系统设备愈加先进,雷达杂波的统计模型趋向于多样化。实际中,许多实测杂波数据的统计直方图均表现出重拖尾的特性,针对传统高斯杂波模型设计的检测器不再适用。此外,在一些复杂杂波环境中,由于孤立类目标杂波的存在,杂波虚警不可避免地出现在检测结果中,在检测之后需要设计合理的拒判算法来剔除杂波虚警。本论文在介绍、分析各种常用雷达杂波模型及各种常用检测器的基础上,针对重拖尾杂波背景下的目标检测和杂波拒判问题进行了研究,主要内容如下:1.分别针对Alpha稳定分布杂波模型中的两种特殊模型——正值Alpha稳定（Positive Alpha-Stable,PαS）分布模型和亚高斯对称Alpha稳定（Sub-Gaussian Symmetric Alpha-Stable,SGSαS）分布模型,推导并分析了两类点目标检测算法。由于PαS分布和SGSαS分布模型的概率密度函数和累积分布函数不具有关于初等函数的闭式表达式,针对两种模型下的检测器研究有限。（1）针对PαS杂波模型:该模型已经被证实可以很好地建模部分实测杂波的功率数据。本论文第三章首先借助H函数,推导出PαS模型的累积分布函数关于H函数的闭合形式表达式,并借此推导出了最大选择、最小选择、有序统计、删除平均检测器的虚警和检测概率公式,探索了这些检测器在PαS杂波模型下的恒虚警特性,分析并比较了它们的检测性能。（2）针对SGSαS杂波模型:该模型适用于相参雷达杂波向量的建模。本论文第三章借助H函数,推导出SGSαS模型概率密度函数关于H函数的闭合形式表达式,并在此基础上,进一步提出了针对SGSαS杂波模型的两步广义似然比（Generalized Likelihood Ratio Test,GLRT）检测器——GLRT-SGSαS检测器。实验结果表明,相对于其他传统的检测器,GLRT-SGSαS检测器在SGSαS杂波背景下具有更好的检测性能。2.由于高分辨雷达的距离分辨单元尺寸较小,目标在雷达径向方向的平动运动可能带来目标信号在多个脉冲之间跨距离单元走动的问题。此外,目标的转动运动也可能会导致目标信号在多普勒域的扩展。此时,传统秩1目标信号模型无法精确描述实际的目标信号模型。针对上述问题,本论文第四章以逆Gamma纹理复合高斯杂波模型为背景,提出一种基于短时广义似然比线性门限检测器（Generalized Likelihood Ratio Test with Linear-threshold Detector,GLRT-LTD）及高阶互相关积累的距离扩展目标检测方法。该方法将长时间相参积累过程划分为若干个短时间子相参积累过程,采用GLRT-LTD获得每个子相参积累过程的输出量,克服了目标模型失配的问题;同时,运用高阶互相关积累方法,在对目标进行运动补偿的基础上,实现子相参积累过程输出量的长时间积累,以获取更好的检测性能。实验证明,该方法的检测性能优于传统的距离扩展目标检测方法。3.在对地探测场景中,由于孤立类目标杂波的存在,检测结果会出现较多杂波虚警,导致雷达目标检测性能下降,对后续识别等过程产生不利影响。因此,需要在检测过程之后加入拒判过程,剔除杂波虚警。目前针对高分辨距离像数据的拒判方法研究较少,设计出有效的杂波拒判方法对于提高雷达性能具有重要意义。基于上述分析,本论文第五章提出了一种基于Hausdorff距离和K中心一类分类器的高分辨距离像杂波拒判方法。该方法提取强散射点位置和强度构成的点集作为拒判特征,该特征可以较好地反映杂波和目标的结构差别,并具有较好地噪声稳健性;同时,采用Hausdorff距离替代K中心一类分类器中传统的欧氏距离,更好地实现特征间相似性的度量,最终保证了杂波拒判性能的提升。基于实测雷达数据的实验结果表明,所提出的拒判方法相对于传统拒判方法,具有更高的拒判正确率,在尽可能多的保留感兴趣目标样本的同时,能够剔除更多的杂波虚警。