随着信息时代的来临,高速率高容量的通信系统的重要性逐渐显现,但以往的通信系统存在着容量受限和堵塞现象等问题,其性能受到极大的限制。由于涡旋光束携带的轨道角动量有可能成为自由空间光通信中新的自由度,有效的改善通信系统性能,因此国内外开展了大量的关于涡旋光束的产生、传输以及通信实验和理论研究,其在大气湍流中的传输特性也是研究的重点方向。涡旋光束在湍流环境传输时受到湍流旋涡的折射、散射等作用,会产生光束漂移、光束扩展以及光强闪烁等一系列负面影响,干扰接收端对光束的探测,影响涡旋光束在通信中的应用。因此研究如何有效降低涡旋光束受湍流环境的影响具有重要的意义。论文根据广义Huygens-Fresnel原理和统一相干偏振理论,研究了径向偏振涡旋光束、径向偏振多高斯涡旋光束以及径向偏振涡旋脉冲在大气湍流环境中的传输特性,探索研究如何降低湍流环境对涡旋光束传输质量的影响,以提高涡旋光束的抗湍流能力,主要研究内容以及所取得的研究成果包括以下几个方面:首先,根据统一相干偏振理论和广义Huygens-Fresnel原理,推导了 non-Kolmogorov 湍流中径向偏振涡旋光束在接收平面上的交叉谱密度矩阵,分析了大气湍流参数以及波源参数对径向偏振涡旋光束在湍流中的光强演化、偏振度以及相干特性的影响。重点分析了不同拓扑荷下径向偏振涡旋光束在湍流大气中的差异。结果显示,更高的拓扑荷数所对应的径向偏振涡旋光束虽然在源平面处有着更大的光斑尺寸,但光束在湍流中能保持更久的暗中空强度分布。同时,更高拓扑荷数的径向偏振涡旋光束有着更好的空间偏振度分布,其相较于拓扑荷为1时受到湍流所引起的退偏效应更弱。其次,对径向偏振涡旋光束进行振幅调控,研究径向偏振多高斯涡旋光束在湍流环境中的传输特性。基于广义Huygens-Fresnel原理和non-Kolmogorov湍流空间功率谱模型,推导径向偏振多高斯涡旋光束在接收平面处的交叉谱密度函数解析式,研究了光束在湍流环境的光强演化、光束漂移以及光束扩展等传输效应。结果显示,更高的拓扑荷数所对应的径向偏振多高斯涡旋光束有着更好的强度分布,且其光束展宽和光束漂移方差相较于拓扑荷为1时受到的湍流扰动会更小。径向偏振多高斯涡旋光束波阶数的增加有利于减弱湍流所引起的光束漂移效应,提高通信性能。最后,根据源平面处径向偏振涡旋脉冲的互相干函数,基于傅里叶变换和广义Huygens-Fresnel原理推导出其在湍流环境下的交叉谱密度矩阵,针对径向偏振涡旋脉冲在频域、时域下的光束漂移效应以及平均光谱强度进行研究,探讨了大气湍流参数、波源参数以及初始脉冲参数对其产生的影响。结果显示:径向偏振涡旋脉冲的平均光谱强度从暗中空分布逐渐退化为高斯分布,其频域中的光束扩展效应主要是由内尺度所引起的,时域中的脉冲展宽则是由湍流外尺度所引起。在实际应用中可以通过调控初始脉冲参数提高涡旋脉冲的抗湍流能力,在一定程度上提高通信系统性能。