涡旋光束是一种在传输过程中呈现螺旋前进的特殊光束，它具有螺旋型的相位因子eil?( l为拓扑荷数，也称为轨道角动量的量子个数，?为方位角)，由于相位奇点的原因使得光强呈现暗中空环形分布，和普通的高斯光束相比具有保密性好、传输容量大、效率高、易于编解码等优点。正是由于以上特性使得涡旋光束广泛应用于光通信技术、量子光学，非线性光学，光镊技术等领域。论文在分析了涡旋光束研究背景及国内外发展现状的基础上主要完成了以下几方面的工作。　　1．基于涡旋光束常见解析表达式分析了其基本特性，对一些产生该光束的方法进行重点介绍并对比分析，研究了涡旋光束的两种类型：拉盖尔-高斯光束（Laguerre-Gauss beam，LGB）和高阶贝塞尔高斯光束（Bessel-Gauss beam，BGB），数值模拟了其在源平面处的光强和相位分布，分析其传输过程中的相位变化。　　2．论文数值分析了LGB和高阶BGB两种涡旋光束在自由空间的传输特性，研究表明随着传输距离的增加，高阶 BGB抗光束扩展能力较强而 LGB扩展现象较严重。基于广义的惠更斯-菲涅尔原理，采用功率谱反演法对两种涡旋光束在大气湍流中的传输过程进行了模拟仿真和数值分析，其中采用低频补偿法产生随机相位屏来模拟大气湍流，解决了模拟时存在低频成份不足的问题。其结果表明：同等条件下湍流越强，不同类型涡旋光束的环形光强均会越弱，相位畸变也越严重，光强起伏越明显且会逐渐退化为普通高斯光束；光束传播距离越远，两种涡旋光束的光强起伏和衰减越严重，且有逐步向普通高斯光束退化趋势；涡旋光束的拓扑荷数越大其抗退化为普通高斯光束能力越强但其相位畸变程度会更加严重；同等条件下波长较长的涡旋光束在传输过程中具有较强的抑制湍流能力。与LGB相比，BGB在弱湍流和较短距离下具有较好的光束质量，但随着湍流强度的增加特别是在强湍流条件和传输距离较远时， BGB光强严重衰减，暗中空半径不见，相位畸变更加严重。综上结论，涡旋光束在自由空间光通信系统中的传输质量和自身因素包括拓扑荷数、激光波长以及外部因素包括湍流强度、传输距离等密切相关。　　3.基于自由空间光通信（Free space optical communication，FSO）系统原理推导出了 FSO系统误码率公式。其中利用平面波的光强闪烁理论推导出了水平和斜程传输条件下基于OOK调制的系统误码率公式，数值分析表明：同等条件下若光束波长较长、天顶角较大、传播距离较短、大气湍流强度较小时对通信系统有利。基于光强起伏原理，利用LGB的闪烁指数分析了基于涡旋光束传输的自由空间光通信系统误码率。结果表明涡旋光束与基于平面波的自由空间光通信系统相比具有相对更低的误码率，同等条件下传输距离越长误码率越高且趋于饱和，拓扑荷较大时其 FSO系统误码率相对越低。当拓扑荷数的增大到一定程度时其FSO误码率趋于稳定。　　4．在实验中首先利用MATLAB软件产生实验所需的相位图，然后基于光学原理利用实验室光学平台搭载产生了涡旋光束的光路，数值模拟了 LGB和高阶 BGB的光强分布，最后基于实验产生两种涡旋光束。