信息时代的到来,对超高速、大容量通信的定义提出了更高的标准,尤其是物联网的发展以及各种智能场景的出现,使得未来将是万物互联的高速、高密通信时代,因此,目前的通信容量和通信速率是无法满足未来的需求的。而目前已有的通信技术大都达到瓶颈,很难实现显著的容量增长。而轨道角动量（Orbital Angular Momentum,OAM）复用光通信技术可以在现有通信容量的基础上,数倍甚至数十倍地提高通信容量,因此自提出就引发了众多研究者的关注。携带轨道角动量的光束是一种具有特殊的螺旋相位结构的光束,其不同的相位结构构成OAM光束的不同模式,理论上模式的个数是无限的。而这些不同模式的OAM光束在空间上彼此正交,因此它们可以在空间同轴传输后被完全分开,而这就相当于通信信道的复用与解复用。当这些不同模式的OAM光束搭载不同的信息时,就实现了OAM复用光通信。将OAM应用于光通信领域的优势,不仅在于OAM光束具有丰富的信道资源,而且OAM复用光通信技术具有后向兼容性和安全性。但是在实际通信中,OAM复用空间光通信不得不考虑大气环境的影响。大气衰减效应和湍流效应会引起OAM光束的强度减弱和相位畸变,导致信道串扰,使得接收端的解复用质量和效率降低,严重影响OAM复用光通信系统的通信性能。因此,如何削弱空间信道对OAM光束的影响,进而让多模态的OAM光束可以通过空间信道稳定有效地传输信息,是OAM复用光通信技术的研究重点。针对上面提出的问题,本文首先对OAM光束理论以及空间信道的主要噪声来源-大气湍流理论进行了研究;然后进一步探讨了大气湍流引发的OAM光束在相位、强度上的随机畸变,以及这些湍流效应对OAM复用光通信系统性能的影响;最后考虑到偏振对于湍流不太敏感,以及正交偏振在复用光通信中的成功应用,提出了基于正交偏振的OAM复用光通信方案,来提升系统的通信性能,并对所提的方案进行了仿真和实验研究。本文的工作内容主要分为两个部分:（1）基于正交偏振的OAM复用光通信系统性能的数值仿真研究。采用功率谱反演法,构建了基于Hill功率谱模型的湍流等效相位屏,然后研究了正交圆偏振、正交线偏振以及平行线偏振下的两路OAM光束穿越湍流等效相位屏后,OAM光束在强度、相位、信道-串扰功率上的变化,进而分析了三种偏振组合下的OAM复用光通信系统性能。（2）基于正交偏振的OAM复用光通信实验。搭建了系统传输速率为100Gbit/s的QPSK（Quadrature Phase Shift Keying,QPSK）-OAM复用的相干光通信实验系统,采用正交圆偏振、正交线偏振以及平行线偏振三种偏振组合下的OAM复用光束,搭载50Gbit/s的QPSK信号,在空间进行同轴传输,系统传输速率达100Gbit/s。对实验结果进行了讨论,分析了三种偏振组合下的两个OAM信道的解复用质量、信道串扰以及系统误码性能。本文所提的基于正交偏振的OAM复用光通信性能提升方案,其创新点体现在:方案仅仅利用了光束本身所具有的偏振属性,只要在发射端将OAM复用光束的偏振调整为正交偏振,而不需要在接收端加入额外的处理,就可以实现提升OAM复用光通信系统性能的目的。该方案原理简单,易实现,且成本较低。OAM复用光通信技术对未来大容量超高速光通信的发展具有重要意义,在未来通信技术发展中具有巨大潜力。而OAM复用光通信系统性能的不断提升,是推动OAM复用光通信从实验室走向实际应用的关键。