人们对无线频谱效率的不懈追求推动了移动通信技术的持续进步,发展了从1G到5G的移动业务。回顾无线通信的百年历史可以发现,除了近十多年来提出的动态频谱接入技术是利用机会频谱外,提高频谱效率的途径基本都是通过复用技术实现的。已被实际开发利用的复用自由度有时间、空间、频率/波长、码字和极化,而轨道角动量（OAM:orbital angular momentum）作为一种全新的频谱复用自由度尚未充分应用在无线传输中。目前基于OAM复用的试验性光通信系统可实现Tbit·s-1级别的传输速率,并将系统的频谱效率提高到435bit·Hz-1·s-1,远高于当前4G系统16.3bit·Hz-1·s-1左右的频谱效率。因此,为应对5G及5G+应用中近千倍的访问及传输需求增长,OAM复用技术将成为未来传输标准中的重要内容之一。尽管前景诱人,目前的OAM无线传输系统还面临诸多技术难题,包括无线OAM载波的生成与重构、检测与提取,畸变波前的补偿与恢复,可靠通信距离的提升,以及与现有传输技术的集成和兼容等,都亟待更好的解决方案。本文基于当前的研究前沿,提出一种在大规模多输入多输出（MIMO:multiple-input multiple-output）基础上集成OAM复用技术的无线传输系统,并就如何获取高质量无线OAM载波这一关键技术问题开展了一系列研究,提出了三种可供选择的无线OAM波束生成方法。归纳起来,论文的主要创新点包括以下四个方面:1.建立了OAM-MIMO无线传输系统模型。针对均匀圆形阵（UCA:uniform circular array）,均匀直线阵（ULA:uniform line array）和均匀矩形阵（URA:uniform rectangular array）等不同的收发阵列配置,利用多个基于发射天线的参考坐标系和OAM载波的累计相位建立了相应的信道模型。在信道矩阵的基础上,分析了不同收发阵列配置下OAM-MIMO无线系统的信道容量、能量效率和容量增益。发现通过应用OAM复用技术,大规模MIMO系统的频谱效率和能量效率可以得到大幅度的提升,并且在低信噪比和远距离传输时系统的容量增益要远大于高信噪比和近距离传输时的容量增益。说明大规模OAM-MIMO无线传输技术在未来的5G及5G+场景里,尤其是低信噪比环境下,有推广应用潜力。2.提出了基于准阵列分析的OAM阵列天线设计方法。首先深入讨论了圆环形相控天线阵,并以偶极子阵列、矩形贴片阵列和添加石墨烯附片的贴片阵列为例,分析了它的技术特点和应用上的优劣。接着提出了圆环形准阵列分析方法,基于该方法,利用共面波导、矩形波导和微带分别构造了圆环形OAM天线并进行仿真分析。结果表明,应用该分析方法可方便地把各种常见的微波传输线设计成OAM天线,这类天线具有重构相反拓扑荷OAM载波的能力。这一方法的实现方式灵活多样,具备广泛的适用性。3.提出了基于螺旋结构的OAM天线设计方法。目前报道的OAM天线大多基于谐振原理而设计,工作频段窄,且多数情况下不具备模式重构能力。为此本文提出一种基于平面阿基米德螺旋微带的OAM天线设计方法,根据该方法设计、制造并测试了一款平面多螺旋臂天线。结果表明,这种天线不仅可以重构若干个拓扑荷不同的OAM载波,还具备宽带工作的能力。同时,设计并仿真了三维螺旋天线和平面等角螺旋天线,发现它们也具有类似的OAM辐射能力。这种天线结构简单,实现方式多样化,对OAM天线的研究与设计有参考价值。4.提出了基于TMn1谐振模式设计OAM天线的一般方法。为利用常见的谐振式微带天线并赋予它们OAM载波辐射能力,提出了激励TMn1模式并为其辐射场加入角动量,从而得到无线OAM波束的方法。加入角动量的方法与实现圆极化的技巧类似:采用双馈点正交馈电,或基于简并分离的单馈点馈电。本文应用双馈点馈电方法,设计、制作并测试了可同时工作在l=1,2,-1,-2模式的双圆环贴片天线,该天线的带宽为31%,可当作简单的OAM复用/解复用装置使用。此外,基于单馈点馈电方法,设计、制作并测试了可以重构l=1和l=-1模式的矩形贴片天线,以及可同时工作在l=3,-3模式的圆形贴片天线。前者的带宽约为10.04%,后者为6.12%。这种方法原理简单,容易实现,对OAM天线的设计与制作有参考价值。