多输入多输出超视距雷达（MIMO-OTHR）作为一种新体制的天波超视距雷达,自提出以来便受到广泛关注。天波超视距雷达的工作频段存在着严重的射频干扰,仅依靠频率选择的方式避开干扰频段已不适合日趋复杂的干扰环境。因此,本文重点研究了MIMO-OTHR的射频干扰时域抑制问题。本文的主要工作和贡献如下:（1）MIMO-OTHR系统原理及信号处理方法本文首先建立了MIMO-OTHR信号模型及全数字的信号处理流程,包括接收波束形成、匹配滤波、发射波束形成和多普勒处理等,最后进行了仿真验证。（2）干扰环境下基于互信息的MIMO-OTHR波形设计本文从波形设计的角度研究了MIMO-OTHR的射频干扰抑制问题。该方法从信息论的观点出发,能充分利用目标的先验知识,以最大化互信息为优化目标,在恒模约束和相似约束下,采用MM算法进行求解。仿真结果表明,该方法比OFDMLFM信号有更好的输出SINR性能,且能在一定程度上控制距离旁瓣。该方法的优势在于有较好的干扰抑制能力,适合干扰强度较高的场景。（3）干扰环境下低旁瓣的MIMO-OTHR波形设计针对上述互信息算法距离旁瓣不理想的问题,本文提出一种低旁瓣的波形设计方法。该方法以干扰环境下的最优滤波器即白化滤波器为接收机,直接优化波形与白化滤波器之间的积分旁瓣电平（Integrated sidelobe level,ISL）,同时还兼顾了输出SINR性能,优化问题分别采用ADMM算法和MM算法进行求解。仿真结果表明,所设计波形能有效抑制距离旁瓣,更有利于目标检测。该方法优势在于有较好的距离旁瓣特性,适合干扰强度较低的场景。（4）基于滤波器设计的MIMO-OTHR距离旁瓣抑制本文从接收滤波器设计的角度研究了干扰环境下MIMO-OTHR距离旁瓣抑制的问题。通过设计接收滤波器来抑制感兴趣区域的距离旁瓣,同时使得输出SINR最大化。距离旁瓣分别采用PSL和ISL来衡量,两种约束下的优化问题均可转化为二次约束二次规划（QCQP）问题,对于ISL约束还给出了计算复杂度更低的解法。仿真结果表明,所提方法能在抑制干扰的同时压低感兴趣区域内的旁瓣,并针对强目标旁瓣掩盖弱目标主瓣这一场景给出了距离-多普勒处理结果。