随着信息产业的迅猛发展,高速率、大容量的通信是必然的趋势。但是现有的通信技术已经无法满足这样的要求,于是人们提出了将携带具有正交特性的轨道角动量(OAM,Orbital Angular Momentum)光束应用到光通信中,以实现信息传输速率的增大。对于基于OAM的自由空间光通信而言,OAM光束的制备、传输和测量是至关重要的三个因素。本文主要对OAM光束的高效测量及其在通信网络中的扩展应用这两个关键问题进行了理论研究,主要工作如下:(1)提出一种高密度轨道角动量分析仪方法。我们提出了一种高密度轨道角动量分析仪,它由两个OAM模式分析器和一个改进的马赫曾德干涉仪组成。该方案可以有效地避免OAM模式分析器中两个相邻OAM模式的固有重叠。首先,改进的马赫曾德干涉仪将复用的OAM光束分成偶、奇两类,并输出在不同的端口。接下来,两个连续的OAM模式分析器分别对分类后的涡旋光束进行测量。通过这种方法,入射到模式分析器的光束之间的拓扑荷间隔将大于等于2,从而使得测量平面上的相邻光斑之间的距离大于等于光斑的宽度。因此,该方案基本可以避免重叠效应的问题,从而实现对高密度OAM模式的分析。(2)提出一种可检测大范围、高分辨率的OAM模式分析器方法。我们提出了一种可以实现更宽的检测范围、更高的分辨率的OAM模式分析器。首先,我们通过在传统的模式分析器之前引入放大装置,实现了模式分析器更宽范围的拓扑荷检测。接下来,我们在几何光学变换中引入一个新的参数,该参数可以决定变换的矩形光束在垂直方向上的位置。利用改进的几何光学变换的特点,我们设计了两个特殊的复合相位,实现了对检测光斑的任意倍的压缩,并且不会引入相位扭曲。最后,我们将这两种方法结合在一起,实现了更宽的检测范围、更高的分辨率的模式分析器。(3)提出一种OAM模式分插复用器。我们提出了一种基于几何变换的OAM光束的分插复用器,可以同时实现多个OAM光束的添加或提取。首先,模式分析器将入射的复用OAM光束或添加的OAM光束转化为焦平面上具有不同横向位置的光斑。接着,放置在焦平面上的空间光调制器控制每个区域上的光斑的透射或反射。接下来,透射或反射的光斑经过几何变换逆变换后恢复为原来的OAM光束。在方案中,通过合理地控制对应光斑的反射和透射,就可以同时实现多个OAM光束的添加或提取。