天波超视距雷达(OTHR)工作原理是通过电离层反射达到远距离探测目标，由于电离层是它的电波传播信道，目标和环境与其他的雷达有很大的差别，所以它具有探测距离广、覆盖范围大、反隐身能力强、预警时间长的优势，因此越来越受到世界各国的高度重视。但是天波超视距雷达工作的高频段电磁环境异常复杂，不仅存在极强的杂波，而且还存在着大气无线电噪声、闪电、流星等瞬态干扰，因此必须采取许多特殊的信号处理方法才能有效地增强抗干扰能力，提高目标检测的能力。为了能确保OTHR的性能，必须在检测目标回波之前发现并抑制掉各种可能存在的干扰及杂波。基于这样的目的，在本文中主要研究了以下内容：瞬态干扰的建模，杂波的建模及杂波的抑制，高分辨的谱估计法。本文首先根据各种资料和参考文献，结合OTHR的一些特点，分别建立了在瞬态干扰模型，地杂波模型和海杂波模型，根据所建立的模型进行了大量的仿真，并把所得到的模型仿真结果图与已知的实测数据进行了比较，验证了模型的正确性。然后研究了海杂波的抑制方法。首先介绍了MTI方法、子空间方法、奇异值分解方法、修改的子空间方法、自适应滤波方法、基于传统的海杂波循环对消法、基于FFT相位分析的改进海杂波循环对消法的一些理论知识，算法流程，然后对这些方法完成了对海杂波的抑制的计算机仿真，算法比较，得到了一些有效的结果和结论。在此基础上，提出了工程方案并进行了计算机仿真。接着研究了一些高分辨的谱估计方法。由于雷达信号处理的实时性的要求，OTHR的相干积累时间不可能太长，同时，为了下一步进行来波方向估计和干扰方向估计研究，所以本文介绍了一些基本的谱估计算法，并对多种算法在OTHR系统下进行了计算机仿真，算法比较。最后，进行了硬件仿真实验。采用了ADSP—21160的硬件DSP开发板，对天波超视距雷达海杂波抑制的一些算法进行了硬件仿真，并得到了硬件实验的结果。