由于智能终端的爆发式增长以及移动互联网应用的蓬勃发展,现有的频带资源已经不能满足人们对于信息传输速率和效率的需求,第五代移动通信(5G)已经开始商用测试,5G在技术、成本等方面是存在局限的,所以5G之后还会有6G,因此找到新的通信技术发展方向显得尤为重要。研究表明,涡旋电磁波作为一项新的传输技术,能够在同一频带同时传输多路信息,并且具有不同模式数的涡旋电磁波之间满足正交性,利用这种正交性,可以有效地解决频谱资源短缺的问题,为实现高信息传输速率的未来无线通信技术提供支撑方案。但是,涡旋波束广泛应用于光波波段,在无线频段的研究还不够充分。基于此,本文对涡旋电磁波在无线频段传输时存在的一些关键问题展开了研究,进一步讨论了基于均匀圆阵(UCA)的轨道角动量(OAM)通信系统在实际应用场景下遇到的问题和解决方法。本文的主要创新点有:第一,对自由空间信道下基于UCA的OAM通信系统的传输性能进行了研究,研究分为理论推导与仿真验证两个部分。首先通过数学公式推导得出当基于UCA的OAM通信系统处于收发端圆阵未对准的非理想状态时,等效信道容量会迅速下降,接下来通过MATLAB仿真对容量的下降程度作出了更直观的验证。仿真结果表明,当接收端圆阵发生很小程度的偏转时,OAM通信系统的容量都会下降很多,尤其是在多模传输的通信系统中。第二,针对非理想状态的实际传输环境,研究了提升基于UCA的OAM通信系统传输效率的方法。首先提出了一种鲁棒的接收方案,接收端圆阵通过对非理想状态下信号传输带来的相位误差进行补偿,可以有效地消除相位不匹配造成的信号幅度衰减。接下来提出了收发端圆阵的波束调向方案,通过在发射端与接收端使用波束成形算法,可以对波束的传播方向进行调整,使得接收端圆阵能接收到垂直接收平面入射的到达波束。最后通过数学分析及MATLAB仿真软件对这两种方案的效果进行了研究,仿真表明这两种方案都能提高非理想状态下自由空间信道中的基于UCA的OAM通信系统的传输效率,使得在远距离传输时等效信道容量能接近理想值。第三,对于匙孔信道下的基于UCA的OAM通信系统,研究了它相比于MIMO通信系统的传输性能。通过电磁仿真软件HFSS对匙孔信道下基于UCA的OAM通信系统的传输波束相位图进行仿真,可以发现涡旋电磁波在穿过匙孔后空间结构并不会发生改变,这就为同时传输多路具有不同模式数的涡旋电磁波提供了条件。为了进一步分析在匙孔信道下使用涡旋电磁波传输信号的优势,利用匙孔的衍射特性,分别推导了OAM通信系统与MIMO通信系统的等效信道容量,并使用MATLAB对推导结果进行了仿真。仿真结果显示,OAM通信系统的信道容量要高于MIMO通信系统的信道容量,说明使用涡旋电磁波通信能带来一个新的自由度,这一发现是对现有关于涡旋电磁波自由度结论的补充,为进一步揭示涡旋电磁波的本质和传输机理提供了新的角度。综上所述,本论文对基于UCA的OAM通信系统的系统性能,OAM通信系统的性能优化,以及涡旋电磁波在特殊信道环境中的应用,做出了创新性的研究。研究成果对于解决涡旋电磁波实际应用中的关键问题具有一定的指导意义,也对未来涡旋电磁波的研究方向提供了一定的参考。