天波超视距雷达(Over-the-Horizon Radar—OTHR)在现代雷达中是较为特别的一种，它工作在3—30MHz的高频频段，利用电离层对高频信号的反射作用自上而下地进行目标探测。它对付低空和超低空突防、反辐射导弹以及隐身飞机等具有天然优势，同时能够提供大范围的早期预警且预警时间远远超出一般雷达。因此，OTHR在现代防空体系中的作用越来越突出，具有重大的军事意义。但是OTHR的高频工作波段、利用电离层反射进行传播以及下视工作方式也使得它在信号处理上面临许多问题，这些问题的解决对于提高OTHR的性能，发挥OTHR的优势起着至关重要的作用。 本文以我们和信息产业部第14研究所的协作项目——“天波超视距雷达的信号处理技术研究”为背景，重点对OTHR的干扰抑制、电离层污染的校正以及舰船目标检测进行了深入研究。归纳起来，主要包括以下几个方面： (1)对OTHR的距离—方位—多普勒三维联合处理方法进行了详细的数学推导，分析了雷达参数的设置，并依据Barrick导出的散射强度公式模拟了海洋回波谱，据此总结了海杂波的分布特点及其对海态的依赖特性。 (2)详细探讨了OTHR中干扰和噪声的抑制。首先我们从OTHR的特点(包括巨大的监视范围、存在非平稳干扰)出发，对两种自适应波束形成方案进行了性能分析和比较。然后特别针对自适应方案2在实际使用时会遇到的问题，结合具体的雷达参数作了详细分析。接下来，针对非平稳干扰的抑制，我们对目前的提高自适应权更新率的干扰抑制方法进行了讨论，从理论上分析了这种方法存在的问题并给予了仿真验证。最后，我们着重研究了瞬态干扰的抑制，提出使用自适应时频分析技术——AGR算法同时完成瞬态干扰的抑制和信号重构。在该方法中，基函数的时域方差和时频中心可以自适应地调整，从而能够更好地反映出每个信号分量的时频细节特征。并且瞬态干扰抑制和信号重构是同时完成的，不再需要分步进行，只需在分解信号中将时域方差较小的信号分量剔除，然后重组即可。因此它对相干积累时间内瞬态干扰的数量没有特别要求，即使瞬态干扰的数目较多，仍然可以达到较好的干扰抑制和信号重构效果。 (3)深入研究了OTHR电离层污染的校正。首先针对电离层相位扰动的解污染，对目前的几种解污染方法进行了讨论，分析了每一种方法的优点和不足。随后，通过实测和仿真数据分析了相位污染的严重程度和二阶谱强度对解污染性能的影响。在多模传播的解污染部分，我们首先对现有的基于多模一单模转换的解污染方法进行了分析，指出该方法存在的几个问题，接着我们提出不将多模转化为单模，而是直接在多模条件下利用海杂波的循环相减法消去多个Bragg峰，从而发现目标。当相位扰动和多模传播同时存在时，我们经过理论分析后指出多模的存在使得滤出的Bragg信号的幅度波动比没有多模时要剧烈得多，进而导致Bragg瞬时频率的估计误差增大、相位解污染的性能降低。对于多模传播的回波具有完全不同的相位扰动这一复杂情况，我们提出利用高分辨线性时频分析的方法对整个回波数据进行处理。该方法既解决了短时 Fourier变换时间分辨力和频率分辨力之间的矛盾，同时没有引入交叉项，从而可以发现信号在时频域上的细节特征，进一步找到目标信号。 (4)在舰船目标检测部分，我们首先对目前的几种长相干积累条件下的舰船检测技术和恒虚警处理方法进行了性能分析和比较。接着重点研究了短相干积累条件下的舰船检测，并在现有算法的基础上，提出基于FFT相位分析的改进海杂波循环对消法，相比于传统方法，新方法可以大大提高海杂波参数的估计精度，降低剩余杂波的强度和扩散程度，从而有利于舰船目标的峰值显露和从剩余杂波中区分出舰船信号。 最后，对全文进行了总结，并指出天波超视距雷达信号处理中有待于进一步研究的问题。