天波超视距雷达(OTHR)是一种利用电离层后向返回散射传播机理对地平线以下远距离目标实现探测的远程警戒雷达。高频段(3～28MHz)有限的频率资源以及复杂的目标特性和传播环境决定了其与传统的微波雷达有很大的差别，必须采取许多特殊的处理方法以保证发挥其探测范围广、反隐身能力强、预警时间长的优势。为此，我们结合工程实际，针对舰船、隐身飞机、巡航导弹等慢速或小目标在OTHR信号处理方面进行深入的研究；并进一步发掘OTHR体制的潜力，设计出不同的发射波形，在提高距离分辨力，增强其抗干扰能力方面进行了探索性的研究。论文主要包括以下内容： 第一章介绍了本文的研究背景、OTHR的特点以及国内外研究现状；并对本文所做的工作做一个简单的介绍。 第二章首先对几个频率管理系统设备的工作方式进行分析和探讨；然后结合工程实际给出了干扰监测分系统的设计准则和具体步骤以及如何综合利用电离层、干扰信息进行实时工作通道选择的方法；最后简单介绍了信标／应答机实验校正电离层失真的原理和方法。 第三章针对天波OTHR阵元数目多、采样样本有限以及通道之间频响失配等因素对自适应波束形成的影响，提出了有效的解决方法。利用特征子空间方法降低了扰动误差对自适应方向图的影响，而输出信干噪比(SINR)几乎不受影响。考虑到庞大的数据协方差矩阵和通道之间不可避免的频响不一致，提出了基于自适应-自适应结构的波束-频域处理方法，大大降低了处理维数，减少了计算的复杂度；在干扰源方向置零的同时，自适应方向图保持了静态方向图的性能，同时对通道的频响不一致的要求大大降低。 第四章定性地分析了天波超视距雷达HF段干扰空、时、频域的不同特点，分别采用各种不同的处理方法进行有效的抑制。空域自适应处理可抑制大部分稳态的副瓣干扰，其中基于自适应-自适应结构的多波束旁瓣对消形式计算量小、收敛快，有助于适应环境可能发生的快变化。基于主瓣干扰和信号在时频域上的不同研究了两种有效的抑制方法：最小二乘法和特征子空间对消方法。为了抑制瞬态干扰，仿真了雷电干扰经过电离层反射后的信号模型，基于假设检验的Gabor级数方法，利用实测数据证明了其有效性，该方法可以同时在时频域中检测瞬态干扰并确定其位置。对于电离层失真引起的非平稳干扰，在相干积累时间(CIT)内采用分段处理的方法可提高滤波能力，适应CIT内干扰方向可能发生的变化；考虑到有限样本条件下数据协方差矩中文摘要阵的稳定性和自适应权的更新速度，提出了特征子空间分解和分段处理相结合的方法有效地解决这个问题，并给出计算机仿真结果。 第五章针对电离层的各种失真，在不具备应答校正的条件下，仅从接收多谱勒数据的角度，深入研究了各种失真估计和校正方法。双滤波器平滑方法用于校正多谱勒谱的平移，基于Bragg峰瞬时频率、瞬时相位误差的估计和校正方法、空间和时间相关的方法以及去卷积的方法用于对相位污染和多径的校正，实测数据证明了上述方法对于电离层失真校正的有效性。 第六章研究了同时多通道LFM信号和Costas序列跳频信号形式在天波OTHR中的可行性应用。在增加设备、信号处理的复杂度的前提下，它们在带宽利用率和干扰抑制方面的优势，可以解决当前OTHR中的许多无法克服的困难，尤其是对RCS起伏大的巡航导弹、隐身目标等具有FMCW信号不可比拟的优势。 第七章对全文工作进行了总结，并简单介绍OTHR信号处理中有待深入研究的工作。