光学涡旋(OV),也称为涡旋光束,是一种具有螺旋相位波前的特殊光场,每个光子均携带确定大小的轨道角动量(OAM),理论上具有无限多的本征态,与光波的波长、时隙、偏振、幅相特性一样,可以利用相互正交的每一阶轨道角动量作为一个独立信道来传输信息,为提高光通信的速率和容量提供了一种全新的复用维度。因此基于涡旋光束的轨道角动量复用技术得到了通信界的高度关注。本文对轨道角动量在自由空间光通信中的一些关键技术问题展开了深入研究,根据液晶空间光调制器(SLM)的特性提出了一种提高涡旋光束能量转换效率的新方法,并基于完美涡旋光束理论,实现了一种新型OAM复用的空间光通信链路,同时深入地研究了该通信链路在大气湍流扰动下的性能。论文的研究内容和创新点主要包括:提出了一种提高OV能量转换效率的新方法。基于SLM生成OV的方法,通过在计算全息图(CGH)中引入数字闪耀叉型光栅技术,有效地改善了涡旋光束的生成质量和转换能效。详细地研究了 SLM性能参数、全息图和OV能量转换效率之间的关系,利用光栅理论,对SLM加载数字闪耀叉型光栅全息图时的衍射场建立了数学模型,定量地分析了衍射光场中+1衍射级OV的衍射角度和转换能效,充分发挥了 SLM的衍射性能,有效地改善了涡旋光束的质量,很好地满足了自由空间光通信的要求。实现了基于完美涡旋光束(POV)多路复用的自由空间光通信(FSO)。基于OFDM-16QAM和POV,搭建了一种双通道OAM复用的FSO链路。该通信链路包括信号发送部分,OAM传输部分和信号接收部分。信号发送部分产生OFDM-16QAM光信号;OAM传输部分实现了两路携带有OFDM-16QAM信号POV的产生、共光轴传输以及空间解调;信号接收部分通过对接收信号的光电转换和离线处理,获得接收信号的星座图和误码率。研究结果表明,POV作为载波降低了光通信系统对OAM拓扑电荷数变化的敏感程度,扩展了通信系统中拓扑电荷数复用的范围。研究了基于完美涡旋光束复用的自由空间光通信链路在大气湍流扰动影响下的性能,并且在相同接收功率条件下与拉盖尔高斯涡旋光束(LGOV)复用通信链路进行了性能对比测试。通过对完美涡旋光束的空间调制,研究了不同湍流强度下涡旋光束的畸变;通过对涡旋的空间解调,获取了两路复用信号的轨道角动量谱,分析了两路OAM信号之间的串扰问题。同时,利用OFDM-16QAM通信系统将该链路与基于LGOV复用的FSO链路在不同强度大气湍流中的性能进行了对比测试,获取了接收信号的星座图和误码率。研究结果表明,基于POV多路复用的FSO链路较传统的基于LGOV光束多路复用FSO链路具有更好的通信性能。