自由空间光通信(free-space optical communication,FSOC)是空间信息网络中高速信息传输的重要手段,正面临着传输容量不足和信道阻塞等问题。理论上,利用涡旋光束作为信息的载体可解决上述问题。此外涡旋光束的轴向场和横向场在任意时刻都存在,在传播方向既有线动量又有角动量。轨道角动量的角向位置的不确定性关系也增加了信息传输的安全性。然而在实际应用中,涡旋光束必然受到大气湍流的影响,发生轨道角动量弥散(螺旋谱弥散)、光强闪烁、到达角起伏、光束漂移和扩展等现象,造成通信系统的信噪比降低、误码率上升。因此,掌握具有轨道角动量的光束在大气湍流中的传输特性对光通信的研究具有重要意义。本文基于理论推导及一种数值模拟功率谱反演法,建立模拟大气湍流信道模型,研究了涡旋光束在大气湍流信道中的传输特性。本文的主要工作如下:(1)采用non-Kolmogorov功率谱,应用Rytov近似,引入内尺度和随高度变化的外尺度模型,理论推导出拉盖尔-高斯涡旋光束在大气湍流斜程路径下的螺旋谱表达式。数值模拟了拉盖尔-高斯涡旋光束螺旋谱特性,分析了涡旋光束的各个参数以及大气湍流相关参数对涡旋光束传输特性的影响。(2)利用功率谱反演法,建立大气湍流相位屏,实现了斜程路径中多相位屏光束传输数学模型的构建。利用多层相位屏方法研究大气信道斜程路径下拉盖尔-高斯涡旋光束的螺旋谱弥散特性,分析了涡旋光束的各个参数以及大气湍流相关参数对涡旋光束传输特性的影响。(3)利用模拟多层相位屏的方法研究斜程路径下涡旋光束在大气中传输时光的强度和相位分布的变化趋势;研究涡旋光束在斜程大气中传输时的光强闪烁。