高频超视距雷达（Over-The-Horizon Radar,OTHR）利用高频电磁波的绕射或反射,可实现对远距离目标的超视距探测,提供大范围海域监测。由于OTHR工作的电磁环境十分复杂,在对雷达接收到的信号处理后得到的方位-距离-多普勒（Azimuth-Range-Doppler,ARD）谱中,不仅存在目标和大气噪声,还包含电离层杂波、海杂波等统计非均匀且大范围分布的杂波信号。因此,在OTHR复杂背景中,有效地检测目标是一项具有挑战性的任务。高频雷达目标检测,通常是在RD谱中进行。在传统的目标恒虚警（Constant false alarm rate,CFAR）检测中,主要利用参考单元幅度的统计特性计算检测单元（Cell-Under-Test,CUT）的阈值。然而,通过在对数尺度下对实际RD谱分析可知,除了幅度的统计特征外,背景中的杂波和目标还包含其它的信息。在不同的杂波区域内,相邻的背景单元分属于相同类型的杂波,在类别属性上存在空间相关性。在RD谱中,均匀区域内相邻背景单元的平均功率相近;而在大范围连续分布的非均匀杂波区域内,在距离或Doppler维上存在着缓慢变化的情况。由于单元的平均功率可通过统计分布参数计算得到,平均功率缓慢变化的相邻背景单元的分布参数也将是缓慢变化的,存在着空间相关性。此外,与背景单元的数量相比较而言,目标的数量属于绝对少数,具有稀疏特性。由于前端信号处理等原因,点目标目标通常还存在局部扩展,占据多个相邻检测单元。基于对RD谱中目标和杂波的分析结果,本文针对OTHR实际RD谱中的目标检测问题,提出利用目标稀疏性和扩展特性、背景单元空间相关性、背景单元分布参数空间相关性等信息来估计背景单元的统计分布参数的方法,以达到在复杂非均匀场景下提升目标检测的目的。具体研究工作如下:第一,在多目标背景中,针对目标检测中的目标/野值干扰的问题,提出一种利用目标稀疏特性来估计背景分布参数的目标检测方法。该方法通过在参数估计过程中对目标进行稀疏限制,自适应地识别干扰目标/野值,继而采用所有均匀背景单元对分布参数进行估计,提高估计的准确性。在多分布参数背景中,相对于传统的目标CFAR检测方法,本文提出的检测方法无需目标数量和分布参数等先验信息,可自适应地识别多干扰目标,实现目标CFAR检测。仿真和实验验证了这种利用目标稀疏性的目标CFAR检测方法的可行性、有效性和鲁棒性。同时,也验证了目标的稀疏特性在目标识别中的积极作用,可为复杂背景中干扰目标/野值的识别提供支撑。第二,在杂波边缘背景中,针对目标检测中杂波边缘造成参考单元非均匀的问题,提出一种利用相邻背景单元的空间相关性估计分布参数的目标检测方法。该方法通过在分布参数估计过程中对相邻背景单元分属的杂波类别进行限制,识别背景单元和定位杂波边缘,继而采用相同均匀杂波区域内所有杂波单元估计分布参数,提高估计的准确性,最终改善了对杂波单元的识别能力。相对于传统的检测方法,提出的方法能在估计过程中利用背景单元的空间相关性,不受参考单元中包含杂波边缘数量和其长度的限制。通过仿真测试评估了提出方法在杂波边缘定位、分布参数估计以及目标检测方面的性能。基于OTHR实测数据的半实物实验验证了本文方法在目标检测性能上的有效性。第三,在平均功率缓慢变化的杂波边沿背景中,针对目标检测中相邻单元分布参数各异的问题,提出一种利用相邻背景单元分布参数的空间相关性估计分布参数的目标检测方法。该方法通过利用分布参数的空间相关性,将平均功率缓慢变化的非均匀相邻单元关联起来,确定分布参数的空间关系,估计单元的分布参数。相对于传统的方法,提出的方法直接建立相邻背景单元分布参数的空间关系,估计得到的分布参数具有最大似然意义。通过仿真测试和实际数据试验,验证了利用背景单元分布参数的空间相关性实现目标CFAR检测的可行性和有效性。同时,也验证了空间相关性在提高非均匀杂波区域内分布参数估计准确性上的积极作用,为估计复杂非均匀背景中单元的分布参数提供有力的支撑。第四,在多杂波混合背景中,针对目标检测中存在的杂波混合非均匀参考单元的问题,提出了一种自适应地利用背景单元分布参数空间相关性和稀疏点目标存在扩展的情况来估计分布参数的目标检测方法。该方法可适应背景单元分布参数空间相关性复杂变化的情况,自适应地关联相邻的非均匀背景单元、确定其空间关系和估计分布参数。在该方法中,还利用了稀疏点目标扩展的现象,提高其识别性能,降低其对分布参数估计的不利影响。相对于传统方法,在最大似然意义条件下,提出方法自适应地建立了相邻背景单元幅度与分布参数存在的空间信息之间的关系,估计出分布参数的值。仿真和实测数据验证结果表明,自适应地利用背景单元分布参数空间相关性和稀疏点目标扩展现象的目标CFAR检测方法是可行的和有效的。