近些年,携带有轨道角动量(OAM)的涡旋光束引起了世界各国研究学者的极大兴趣,它具有特殊的螺旋相位结构,含有相位因子为exp (iιθ),光强为环状分布并且具有很小的中心暗斑,上述这些特点使得它在光学微操控、信息传输、生物医学、量子编码等领域得到广泛的应用,尤其在光通信领域更是具有极其重要和巨大潜力的应用前景,它可以单独进行编码或者作为载波携带信息,可极大地提高通信系统的频谱效率和信道容量,并且可以和现有技术FDM, WDM等进行融合使用,本文基于一种数值模拟方法-泽尼克(Zernike)多项式法,建立模拟大气信道湍流模型,研究涡旋光束在湍流大气传输时的性能变化,并提出一种新的波前修复方案。本文主要工作和成果如下：(1)对具有OAM的涡旋光束的产生原理和相关强度相位特性进行详细的介绍和分析,并阐述涡旋光束用于光通信系统提高信道容量的基本机理。(2)介绍两种数值模拟方法-功率谱反演法和泽尼克多项式法,并通过仿真建立大气湍流模拟相位屏,分析比较两者不同点。(3)基于泽尼克多项式法,建立模拟大气湍流相位屏,研究涡旋光束在大气中传输时强度和相位分布图的变化趋势,分析大气湍流导致拓扑电荷数拓展的情况。研究涡旋光束在自由空间中传输时OAM纯度随着大气湍流强度和传输距离的变化趋势。(4)提出一种基于像清晰化算法的自适应光学涡旋光束波前修复方案,并通过仿真验证其合理性。本论文在通过对上述四个方面的分析和研究,在深入理解OAM技术原理之后,建立模拟大气湍流相位屏,研究和探索大气湍流带给涡旋光束OAM的特性变化,并提出涡旋光束波前修复方案,为进一步研究OAM技术应用于光通信领域提供了参考和思路。