涡旋光束是一种携带轨道角动量(Orbital Angular Momentun,OAM)的光束,其光强分布为一中空环形、相位分布为一特殊螺旋状。由于OAM理论上具有无限多维度,且携带不同OAM模式的涡旋光束之间具有相互正交的特性,因此将多个涡旋光束进行叠加复用后作为信息传输的载体用于无线光通信系统可以大幅提高通信的容量及频谱效率。然而涡旋光束在自由空间中传输时受大气湍流扰动的影响,会产生相位畸变、光强闪烁、光束扩展等现象,从而影响信息传输的可靠性。本文以此为背景,深入的研究了基于相位差(Phase Diversity,PD)算法的无波前传感校正技术对涡旋光束波前畸变校正补偿的可行性。本文研究的主要工作如下:1、涡旋光束在大气湍流中的波前畸变。根据涡旋光束和Kolmogorov谱模型的基础理论仿真了拉盖尔-高斯光束的光强和相位分布,并对比分析了几种常用大气湍流相位屏模拟方法的优缺点;基于多相位屏模型分析了拉盖尔-高斯光束经过大气湍流扰动后的波前畸变和轨道角动量串扰情况。2、基于PD算法的无波前传感校正技术对涡旋光束修正补偿的仿真研究。根据经典的自适应光学(Adaptive Optics,AO)校正系统求解模型,采用PD算法作为无波前探测技术对畸变涡旋光束的校正补偿效果展开了数值模拟研究。3、PD法校正补偿畸变涡旋光束的实验研究。基于设计的PD自适应光学校正技术的整体系统模型搭建了实际的光学实验平台,通过大量的实验验证了 PD算法校正补偿畸变涡旋光束的可行性。结果表明:基于PD算法的无波前传感自适应校正系统可有效地校修正补偿涡旋光束的波前畸变,单个和叠加态涡旋光束的相对功率校正后可分别提高至0.85和0.8左右,减小了模式间的串扰,提高了收敛速度,且涡旋光束的校正效果随拓扑荷数的减小而提高,实验与仿真结果保持一致。