近些年来,多输入多输出超视距(Multiple Input Multiple Output over the Horizon,MIMO-OTH)雷达成为新体制天波雷达的重要研究方向。本文在构建虚拟阵MIMOOTH雷达系统的基础上,主要研究了MIMO-OTH雷达虚拟阵特性、慢速目标检测下的海杂波抑制算法、电离层相位污染校正,本文的主要工作如下:(1)虚拟阵MIMO-OTH雷达系统构建本文给出了电离层模型和射线传播路径模型,并以此为基础构建了虚拟阵MIMO-OTH雷达系统,并推导了其信号处理流程,包括匹配滤波、波束形成、多普勒处理、目标检测等内容,最后通过仿真验证了系统构建的有效性。(2)MIMO-OTH雷达虚拟阵特性分析稀疏布阵方式给MIMO-OTH雷达带来了更大的有效孔径。本文分析了MIMO雷达能够在接收端形成虚拟阵元的原理,并讨论了全虚拟阵元和有效虚拟阵元两种信号处理方式,后者拥有更低的波束形成维度。最后,讨论了虚拟阵MIMO雷达与传统相控阵雷达在输出信噪比、角分辨率、测角误差等方面的性能差异。(3)海杂波抑制与海上慢速目标检测针对海杂波掩盖海上慢速目标问题,本文在建立海杂波模型的基础上,研究了海杂波循环对消法,发现循环对消法只对一阶谱峰有明显的抑制效果。本文还给出基于相邻距离单元的特征值分解法,此算法利用相邻距离单元的杂波相关性构造协方差矩阵,通过特征值分解滤除杂波信号,相比于循环对消法,该算法的海杂波抑制效果有所提升。此外,本文还给出了基于MVDR算法的杂波抑制方法,该算法以最小化杂波噪声功率为目标,实现了对目标信号多普勒频率的估计。(4)电离层相位污染校正针对电离层相位污染问题,本文深入研究了基于三次多项式相位的解污染算法,发现该算法估计多项式系数的误差是耦合的,基于此本文提出了一种新的基于多项式相位的解污染方法,该算法以五次多项式相位建模,并给出了一种解耦的多项式系数计算方法。仿真结果表明,当相位污染函数慢变时,两种算法都能够较好地实现相位污染校正;当相位污染函数快变时,三次多项式算法解污染后杂波谱上的毛刺较多,而使用所提算法仍然能够保持较好的解相位污染性能。