实现更高的数据传输能力是通信技术的主要驱动力,这就导致了对复用技术的研究,包括频分复用、时分复用、码分复用、空分复用。近些年,OAM及其模态间正交性的研究是一个热点。在光通信系统中增加传输容量的一种典型方法是多路复用的多路独立数据信道。例如,多个独立的数据通道可以分别位于不同的极化、波长或空间通道上,它们对应于偏振复用(PDM)、波分复用(WDM)和空间分割复用(SDM)。SDM的一个特殊情况就是正交空间重叠和混合传播空间模式的利用,称为模式分割复用(MDM)。在这种情况下,每一种模式都可以有一个独立的数据通道,而正交性可以在多种模式下实现高效的多路复用(分解)和低的模间串扰。而轨道角动量(Orbital Angular Momentum,OAM)就是空分复用中的典型。这种全新的复用技术可能从一个新的维度来提高频谱效率,从而提高同一频段的传输容量。OAM可以被解释为螺旋相位波前的扭转,基于这种特殊结构,OAM光束可以被量化为不同的状态,而且他们是正交地沿着同轴传播。该特性使OAM光束对提高光学通信系统的性能方面有潜在的应用价值。本文首先介绍了轨道角动量研究的意义和现状,在分析轨道角动量基本原理和产生方式的基础上,利用相控阵原理提出了三角形和五边形两种能产生OAM波的阵列天线,并对这两种天线进行仿真分析,结果论证了这两种天线都能产生OAM波束。然后针对微带天线带宽窄的缺点提出两种改进方法并验证。利用均匀圆阵产生轨道角动量的方法、微带天线圆极化技术、微带天线扩频技术以及微带馈电技术等相关理论,提出一种新型的曲线型微带贴片天线。并设计出一种带有馈电网络OAM模式数为2的天线,最后将能产生OAM波束的几种均匀圆阵天线进行了对比,验证了曲线形天线诸多优点。针对均匀圆阵产生OAM的特点,提出一种独特的馈电网络形式,并验证了其能够提高OAM波束性能。而后通过MATLAB对OAM通信过程进行仿真,验证了OAM技术能够提高通信容量以及误码率。最后在总结全文的基础上,针对本文存在的一些问题提出了详细的改进方案以及对下一步工作进行了规划。本文工作内容如下:1)概括归纳了轨道角动量技术研究现状,以及OAM的基本原理和产生方式。介绍了目前能产生OAM波的几种主流方法,并比较了其优缺点。2)通过对平面微带电路产生OAM方法的论述,研究了矩形贴片天线阵中阵元位置对OAM的影响,提出了两种新型天线并提出两种改进带宽或轴比方法。3)对一种能大幅度增加带宽的曲线形微带天线进行仿真。利用等距圆阵(UCA)技术,提出能够产生OAM波束的曲线型天线阵,并对其特性进行仿真,对几种OAM天线性能的优缺点进行对比。4)利用ADS软件中的Smith圆图进行阻抗匹配,设计出模式数为2的环形馈电网络,证明其对于曲线形天线阵有增强作用,提出一种改善该天线性能的一种方案,并进行仿真分析。5)利用MATLAB仿真了OAM传输过程,并测试了3种调制方式下的误码率,讨论了在FSK、BPSK调制下的多径效应及2-FSK下的复用技术。