光的轨道角动量(Orbital Angular Momentum,OAM)作为涡旋光束特有的性质,是由Allen等人在1992年提出的,尤其在发现可以通过对OAM进行调制来传递信息之后,利用OAM进行自由空间光通信受到了科研人员们的高度关注。带有轨道角动量的涡旋光束在自由空间信道传输时,会受到来自大气湍流和光束偏移的影响,导致轨道角动量态发生弥散,严重影响通信系统的性能。本文在对轨道角动量和涡旋光束理论进行详细介绍和分析的基础上,重点研究了大气湍流效应和光束偏移对OAM光通信系统性能的影响。通过理论推导加MATLAB仿真,建立了涡旋光束在大气湍流及光束偏移存在情况下的数学模型,对一定大气信道条件下涡旋光束OAM最优组合态进行优选,对光束偏移容限问题进行了深入的研究,并提出一种新的涡旋光束对准思路。本文主要工作和成果如下:(1)对大气湍流效应和主要大气湍流模型进行了总结与分析,建立了涡旋光束在non-Kolmogorov和modified von Karman大气湍流信道传输的数学模型,数值求解了涡旋光束经过两种大气湍流后的探测概率,分析了不同湍流模型下大气湍流强度对OAM探测概率的影响。(2)针对于以上两种湍流对OAM系统性能的影响进行了理论分析,就大气湍流强度对系统信道容量和误比特率进行分析与研究,并基于信道总容量指标优选了用于OAM空间光通信的最优组合态。(3)对光束偏移理论进行了介绍与分析,建立了涡旋光束偏移系统模型,研究了横向偏移大小对于不同OAM态传输的影响。并基于此提出了一种带有轨道角动量的涡旋光束实时对准方案。(4)运用数值计算的方法得到了 OAM光束在横向位移和角向倾斜条件下的偏移容限,并对发生光束偏移的OAM复用系统进行了系统性能的研究。本文通过对涡旋光束在大气湍流存在下及光束偏移情况下的系统性能进行研究,所得研究成果为进一步研究OAM技术在光通信领域的应用提供了参考和思路。