随着空间电磁环境的复杂化和各类无线应用场景的多样化,对射频系统的设计提出了高性能、可重构、小型化等新要求。天线作为收发前端,其性能直接影响系统功能的实现,因而关于高性能天线的研究成为重要的研究方向。特别是相控阵和数字阵列技术的发展,大大提升了天线波束扫描的灵活性。传统相控阵天线分布于三维空间,通过控制单元的位置排布、激励幅度和相位实现特定的波束综合。然而实际系统应用往往需要兼顾多种性能要求,为了提升阵列在复杂环境下的适应性,非传统天线阵列技术应运而生。本质上是通过引入天线单元的多维控制自由度,寻求阵列信息感知和处理能力的提升。在相控体制下,引入时间作为第四维控制参数,形成时间调制阵,也称四维天线阵。通过射频开关等器件对辐射单元进行周期调制,实现了单元的动态激励,降低了天线馈电网络的设计复杂度,有利于实现低副瓣辐射、同时多波束、实时自适应波束形成等功能,保证高性能收发的同时可兼顾阵列低成本、小型化设计需求。突破传统相控体制,在天线单元通道间引入微小的频率偏量（远小于载波频率）,构成另一类新型天线阵列——频控阵,也称频率分集阵列。单元通道频偏的引入使得天线辐射电场具有空间角度维（俯仰角、方位角）、距离维和时间维四维相关特性,有利于实现距离相关的目标探测和干扰抑制、波束自扫描等功能。围绕天线领域的前沿方向,针对非传统相控及频控天线展开新技术、新方案的研究将有利于解锁新的无线系统应用场景。本文以天线阵列的小型化和高性能设计需求为背景,面向实际系统应用,进行相关理论研究和应用探索。主要贡献和创新点包括以下几个方面:（1）研究了多域融合的自适应波束形成算法。针对小型化多模共享导航天线自由度不足导致抗干扰性能恶化的问题,提出了基于极化敏感阵列的空域-极化域融合自适应处理方法。为保证导航信号有效接收,提出了增加极化约束的线性约束最小方差算法,在口径不变的条件下提升了阵列自适应自由度。为进一步降低天线系统硬件复杂度,探索了基于时序相位加权的单射频通道接收方案。引入时域加权处理实现天线口径的Walsh-Hadamard变换,并基于逆变换重构得到的通道信息进行自适应处理。通过分析不同类型干扰信号的抑制效果发现,该方法可以大大降低抗干扰模块的硬件设备量。（2）研究了频控阵的空间聚焦波束方向图综合方法。针对线性频偏频控阵方向图在距离、角度、时间三维周期分布的问题,为避免空间栅瓣并实现距离-角度两维聚焦,提出了阵元位置、频偏参量两维优化的“点状”波束方向图综合方法。从阵因子角度分析了频控阵辐射栅瓣的产生机理,并提出采用区间约束的频偏优化可以实现空间距离-角度聚焦的波束综合。考虑到频控阵馈电网络复杂,为同时减轻系统软硬件设计复杂度,提出了稀疏布阵-频偏优化两维控制的阵列综合方法,并提出一种变步长的快速迭代方法,用于求解符合期望的最少阵元数天线排布方案。（3）研究了频控阵在距离依赖干扰抑制中的应用。常规频控阵在距离维辐射副瓣较高而导致易受空间干扰影响,为克服这一问题,提出一种多级频偏混频结构,通过两级频偏参量优化,可以实现距离-角度全空间的低副瓣方向图综合。在此基础上,利用其波束距离维分辨特性,将频控阵应用于距离相关的干扰抑制。由于频控阵天线通道易产生误差而导致导向矢量失配,并且距离维副瓣随机分布易导致干扰接收功率动态变化,提出了基于特征子空间投影的稳健自适应波束形成方法,实现了距离、角度两维的主波束对准和干扰零陷优化。（4）研究了时间调制阵列的高效谐波波束形成方法。分析了时间调制同时多波束辐射原理,在时频域对比分析了不同类型调制脉冲产生的谐波波束幅度和相位分布规律。为实现各个谐波波束的独立指向控制,提升时间调制阵列的边带利用效率,提出了预处理矩形脉冲单边带调制方法。面向远场无线功率传输中同时多用户充电的应用场景,结合方向回溯阵列技术,实现了功率基站和无线终端的波束对准和高效率充电,克服了矩形脉冲调制下谐波波束指向彼此制约、边带辐射电平不易调控的问题,为无线功率传输的天线阵列设计提供了新的解决方案。（5）研究了时间调制阵列在同时功率传输和终端定位系统中的应用。为实现精准功率馈电的远场无线功率传输,提出了基于互调反馈的终端定位策略。提出采用时间调制阵列产生定向双波束对终端馈电,实现了空间双音波形激励。终端整流器在双音激励下自发产生的互调频率谐波可用于建立收发反馈链路。通过两级开关网络实现的多基线时间调制阵列接收反馈回波,提出了开关非理想特性的补偿方法,实现了高精度终端方向估计;最后基于反馈信号强度测量,实现了终端距离估计。该方法有利于基站根据终端估计位置实时调整波束指向和发射功率,从而提升系统传输效率。通过原型机实验证明了该方法的有效性。