近年来,移动通信与互联网技术的迅猛发展加大了对现有通信基础设施的压力。目前,信息传递的速度、通信系统的容量和传输安全的可靠性已经渐渐不能够满足人们日益增长的需求。因而,对通信系统中的频谱效率以及信道容量提出了更高的要求,更加需要通信领域中新技术的创新和涌现。正是在这种环境下,各类复用技术广泛应用于光通信的各个领域中,包括密集波分复用、模分复用等等,然而却由于电磁通信容量资源的限制,不能有效的解决存在的问题。从理论上讲,与频率、波长相类似,涡旋光束携带的轨道角动量(orbital angular momentum,OAM)可以被当作一种新的自由度,光束的轨道角动量数目将会是无限的。将其用在光通信领域中,有较大的应用前景,能够较大程度的提高光通信容量。为此,多态轨道角动量光束的产生方法以及在自由空间中大气信道的传输性能也越来越引起国内外学者的关注。特别是,寻求更高衍射效率、更稳定、更简便的方法去产生多态轨道角动量光束,并考虑在自由空间光通信中,存在大气湍流的情况时,多态轨道角动量光束的传输如何应对这种外在环境的干扰,去实现更加可靠的传输。本论文对多态轨道角动量光束的产生方式进行了重点研究,分析并提出了优化设计方案,包括纯幅度型和纯相位型的多OAM态产生器,并充分考虑到涡旋光束在大气湍流环境下传输时受到的影响,通过MATLAB数值仿真模拟,进行结果分析,具体的工作和成果如下:(1)基于角谱衍射理论,对幅度型多OAM态产生器进行理论分析,通过数值仿真,对掩膜的结构进行改变,包括掩膜的对称性、遮盖面积和相位延迟,来进行多OAM态产生方法的研究。(2)对纯相位型多OAM态产生器进行设计和优化。提出了将模拟退火迭代算法与纯相位型产生器相结合的优化产生方案,仿真结果显示这种方法具有较高的衍射效率和较低的相对均方根误差。(3)对大气湍流的形成、特点以及光束在大气湍流中的传输效应进行阐述。将产生的多态轨道角动量光束在大气湍流中传输,通过MATLAB仿真模拟,分析大气湍流环境下,湍流的强度和光束在该环境中传输的距离对多态OAM光束传输后的结果所产生的影响。