天波超视距雷达(Over-the-Horizon Radar,OTHR)因其发射的高频电磁波会经过高空电离层的反射,因而能够忽视地球曲率的影响,实现超远距离的目标探测。这样独特的工作机理使得天波超视距雷达被大量的应用于目标探测、雷达预警和海况监测等领域中。然而,由于天波超视距雷达工作于3MHz~30MHz的高频段中,使得其很容易受到此波段各种干扰的影响,比如雷达回波中较强的射频干扰与情况复杂的海杂波。本文深入研究了天波雷达中射频干扰和海杂波的时频特性和相关抑制算法,主要工作包括:1、基于最优匹配滤波的射频干扰抑制算法。本文首先分析了射频干扰的来源及其危害,并研究了射频干扰的时频特性。然后给出了一种基于相似波形约束的射频干扰抑制算法,但该方法计算复杂度高,且相对于传统的匹配滤波器具有较高的旁瓣。针对这些问题,本文提出了基于扩展卡尔曼匹配滤波的射频干扰抑制算法,实验结果表明该算法能有效地抑制射频干扰且对目标信号和海杂波信号基本没有影响。2、基于降维矩阵设计的海杂波抑制算法。本文分析了海杂波的形成、频谱特点以及其对海面目标检测的危害。给出了传统海杂波抑制的降维处理方法,即局域联合处理(Joint domain localised,JDL)算法。但该算法在对降维矩阵的设计上具有一定的人为性,且对降秩维度的选择十分严苛。针对上述问题,本文提出了一种联合迭代最优滤波的海杂波抑制算法,即降维的Joint-RLS算法。该算法通过联合迭代处理,从而求解最优化降维矩阵和最优化滤波权向量,最终在抑制海杂波的同时最大化目标输出。仿真实验证明该算法相对于传统的JDL处理算法,具有类似的海杂波抑制效果。3、基于稀疏滤波的海杂波抑制算法。考虑到雷达回波中的海杂波具有一定低秩特性,则接收信号经阻塞矩阵处理后一部分系数为零。基于此,本文在最优滤波器设计的基础上引入稀疏化条件,从而提出了一种基于稀疏1L-norm RLS的海杂波抑制算法。该算法不仅能够保证海杂波抑制的有效性,而且能够稀疏化滤波权向量,提高滤波器的输出信杂噪比。仿真实验证明所提算法优于基于JDL的海杂波抑制算法。