激光在大气湍流中的传输问题是自由空间光通信、激光雷达、遥感成像等领域必须考虑的重要课题,由于传输路径上存在折射率随机起伏的大气湍流介质,激光在传输过程中存在退相干效应,并引起光束扩展、光束飘移、到达角起伏以及光强闪烁等负效应,严重制约了激光在大气光学领域中的应用和发展。本文基于随机光束的相干结构调控,并考虑光场的位相和偏振态结构,提出了多种新型随机光束模型;针对长距离、高传输速率的自由空间光通信系统,从光源的相干、位相以及偏振出发,提出了抑制大气湍流负效应的新模型和新方法。相干、偏振和位相是光波的基本特性,本文基于随机光束相干结构调控方法,在严格满足光束的物理真实性条件下,得到了偏振态为径向分布,并可携带扭曲相位的多种新型随机光束模型,如:径向偏振余弦高斯关联光束、径向偏振扭曲余弦高斯关联光束以及径向偏振阵列高斯关联光束。通过对这些新型随机光束聚焦特性的研究表明:调控光源的相干结构,可实现对焦场强度、相干度、偏振度以及偏振态的可控操纵,得到了如阵列型、“光笼”、“NUST”型结构焦场;得到了可控的非均匀偏振态分布,为新型矢量光场的产生提供了一种新方法。对随机光束在复折射率介质中的增益特性进行了研究,通过调控光源的相干结构,得到了更高的强度增益效果。在实验上,以径向偏振余弦高斯关联光束为例,设计产生并测量了这类光束,实验结果很好地吻合了理论模拟,且这一设计方案无需太大改动,就可用于多种相干结构随机光束的产生。针对长距离、高传输速率的自由空间光通信系统,本文考虑了大气光通信中典型的地对空以及空对空视线传输路径。针对大气湍流中存在的各向异性以及非Kolmogorov性,详细研究了新型随机光束,如径向偏振余弦高斯关联光束、扭曲阵列光束以及可调多高斯关联矢量光束在大气湍流中的传输特性,通过对光束在大气湍流中传输的强度、相干度、偏振度以及偏振态的分析,结果表明:多维度调控信号光源的相干、位相以及偏振态结构,相比单一维度调控随机光束,可以更好地抑制大气湍流的各向异性、非Kolmogorov性及湍流引起的退相干效应。光束在大气湍流传输时,经典的Wigner分布函数二阶矩传播变换定律不再适用。针对这一情况,运用张量方法,实现了扭曲高斯谢尔模光束大气湍流传输二阶矩的快速计算,得到了大气湍流4×4二阶矩传输定律,该定律表征为自由空间传输二阶矩与湍流影响的线性叠加,可适用于各种高斯结构光束在大气湍流传输的研究。研究了基于二阶矩的等效束腰宽度、光束质量因子以及轨道角动量等参量,结果表明:优化初始光参数,如增大扭曲因子,增大束腰宽度并对相干结构进行调控可以抑制湍流影响,但同时会加剧光束扩散,对于长距离光传输系统,需要对初始光束参数、接收器孔径大小和接收器能力等进行整体设计。针对光束在大气湍流传输中引起的光强闪烁,利用随机光束的模式叠加理论,解释了相比单一模式的完全相干光,对相干结构的调控可实现随机光束模式的有效选取,进而降低光强闪烁;采用张量方法,推导了扭曲阵列光束在大气湍流中的光强闪烁解析式,研究表明增大光源的束腰宽度、增大扭曲因子并调控相干结构可降低大气湍流引起的光强闪烁。本文的研究有助于优化随机光束在大气湍流传输的整体性能,在自由空间光通讯、激光雷达、遥感成像等领域具有潜在的应用价值。