近年来各国掀起了低轨卫星星座的研究热潮,积极推进空、天、地一体化的卫星互联网体系建设。为适应卫星批量化制造和高集成度要求以及“一箭多星”的发射模式,卫星的重量、体积、成本和功耗等资源严苛受限,对卫星组网应用中的星间链路通信、星地数据传输以及星地测控等领域的星载天线性能提出了更高的要求。本文针对当前星载天线设计的几个技术难题,基于特征模分析对低剖面、宽带、宽波束赋形、大角度扫描等高性能的星载天线展开研究,主要包括以下三大部分:首先,针对星间链路的高精度点对点通信应用,为解决由于卫星坐标和姿态的动态多变而不易跟踪波束的难题,提出设计低剖面的方向回溯微带阵列的低成本解决方案来自定向跟踪波束。其中,基于二模圆极化调控设计简单的切角方形微带天线作为阵元,提出充分利用无源混频器的互易性设计可共面布线的相位共轭馈电电路,并分析了混频器的上下变频损耗差异对天线方向图性能和波束指向精度的影响。制作的一维四元微带共面方向回溯阵列原理样机的测试结果表明该阵列具有良好的方向回溯性能。其次,针对星地高速数传应用的宽带通信需求,为解决现有的单层微带天线带宽不易拓展的难题,设计基于三模宽带圆极化调控的单层单馈微带平板相控阵,三个模式相互正交,通过共用一个模式形成两对具有相同旋向的圆极化模式对,同时激励三个模式可获得宽带圆极化的辐射特性。针对偏心馈电顺序旋转相控阵初步设计方案中辐射方向图具有高副瓣的问题提出两种解决方案并展开研究:一种是随机顺序旋转方案;另一种是设计可中心馈电的微带相控阵。两种方案均可以有效提升阵列的扫描性能如阵列在大角度扫描时的增益、轴比和旁瓣性能等。最后,针对卫星测控等应用的宽波束赋形需求,为解决现有的波束赋形方案的重量大、剖面高及功耗大的技术难题,提出设计基于四模波束赋形调控的超表面圆极化天线以实现极致低剖面下的低成本低功耗的宽波束赋形方案。在前两章只调控边射定向波束辐射模式的基础上进一步引入了具有全向波束辐射特性的高次模同时调控。四个模式包含一对正交的边射定向波束辐射模式和一对正交的全向波束辐射模式,通过正确选择激励方式和位置改变两对模式间的激励幅度比和相位差实现方向图的增益互补以展宽天线的半功率波束宽度。针对初步方案出现的方向图不对称问题,研究了干扰项高次模的抑制方法,通过改进天线结构和馈电方式获得了对称性较高的宽波束赋形方向图。以上三大部分的研究工作于特征模分析的天线设计来说实现了模式由简单到复杂、模式调控由窄带到宽带再到改变辐射方向图形状的层层递进的系统研究;于星载应用来说则是分别有针对性地解决了卫星组网中星间和星地应用的天线技术难题。