近些年来,高频（HF）雷达广泛应用在海平面的目标探测等领域。HF雷达系统通常2-30MHz的频率范围内运行。在复杂的电磁环境干扰下,需要在更低的快拍下进行高精度的高频雷达目标个数估计。抑制天线之间的互耦效应,是提高雷达目标个数估计的有效方法。因此,本文研究高频雷达目标探测背景下,提高目标个数估计能力的方法。首先,研究了有限快拍下,经过协方差矩阵重构的目标个数估计方法。对于高频雷达而言,更高的目标个数估计能力是必不可少的。本文分析了协方差矩阵重构下的目标个数估计算法在低快拍下对高频雷达目标个数估计精度的影响。结果表明,对估计精度的影响在有限快拍下是积极的,并且优于传统的MDL算法的效果。尽管快拍数较少,但仿真结果表明,协方差矩阵重构下的目标个数估计方法在一定条件下是能够提高高频雷达目标个数估计准确率的分析方法。然后,研究了阵列互耦下高频雷达的目标个数估计方法。基于大型阵列天线的阵元与其子阵列的阵元具有相同阵列环境的假设。对互耦系数矩阵进行自校正,优化后的互耦系数矩阵提高了高频雷达目标个数估计的准确率和精度。在本文中,我们使用互耦系数矩阵重构与协方差矩阵重构结合,从合成的高频雷达数据研究了存在阵元相互干扰下的模型性能,并与经典的MDL算法进行比较。结果表明,在低快拍下,经过稀疏迭代协方差重构的算法可以显著提高高频雷达的目标个数估计成功率。最后,研究了自由度更高的阵列设计,并仿真了该阵列形式的高频雷达目标个数估计实验。针对更高的目标个数估计能力,需要有更多的规则的天线阵列。通过利用天线阵列的稀疏性,就可以在不增加天线成本的情况下提高性能。本文仿真了设计的长基线分布式嵌套阵列,并进行雷达目标个数估计。运用SPICE算法进行目标个数估计方法,以验证不同情况下的目标个数估计能力。通过仿真结果对比,验证了该方法在高频雷达背景下有较好的效果。这表明所设计的天线阵列是应对目标个数估计问题的有效方案。