随着信息产业的迅速发展,以前的调制以及复用技术已无法满足未来大容量、高速率的通信要求。为了进一步满足对通信信道容量和频谱利用率的要求,人们提出利用具有轨道角动量(Orbital Angular Momentum,OAM)的涡旋光束进行复用通信。由于OAM本质是一空间分布函数,所以基于OAM光束的复用通信不可避免的受到大气湍流的影响。本文以轨道角动量复用光束及其在大气湍流中的传输展开研究,主要工作如下:1、OAM光束复用特性研究。以两路OAM光束为例,研究了不同拓扑荷数下OAM复用光束的光强和相位分布特性。并对仿真结果进行了实验验证。2、研究了大气湍流对OAM复用光束光强和相位的影响。基于Von Karman谱模型研究了不同传输条件对OAM复用光束光强和相位分布产生的影响,并对仿真结果进行了实验验证。3、数值分析大气湍流下OAM复用光束受到的串扰情况。选用螺旋谱定量分析OAM复用光束在不同传输条件下各路光束之间的弥散程度。考虑到实际大气信道下的混合噪声,研究了不同湍流强度下系统误码率的变化情况。研究结果表明:同号OAM复用光束光强亮斑数量和相位等相位线个数由复用光束中拓扑荷数最大的一路光束决定,异号OAM复用光束光强亮斑数量和相位等相位线个数由复用光束中各光束拓扑荷数之和决定。OAM复用光束在不同复用模式下的光强相位呈规律性分布,且根据得出的规律可以对OAM复用光束的模式进行检测;湍流强度越大、传输距离越长时,OAM复用光束光强闪烁现象越明显、复用相位等相位线畸变程度越严重,且在强湍流和远距离传输条件下,OAM复用光束光强闪烁和相位畸变程度严重,这将直接导致光通信系统的通信质量下降甚至通信中断;OAM复用光束之间的弥散程度随湍流强度的增加而增加,且强湍流会导致OAM复用光束失真;同一湍流强度、相同传输距离下,拓扑荷数越大的OAM光束误码率越大。同一湍流强度下,OAM复用光束的误码率随传输距离的增长而增大。