空间光通信由于其高容量、高速率等优点引起了人们的广泛关注和研究，光学编码技术也成为光通信中相当活跃的研究内容之一，目前在通信链路中通过对光强、频率或者偏振进行高速调制以实现数据编码的研究已有大量报道。与利用偏振态编码相比，利用涡旋光束的轨道角动量编码相对于传统的二进制编码能够有效地提高数据传送密度和速率，对于光轨道角动量用于无线光通信编码研究仍然还有大量的工作值得我们作进一步的研究。本文围绕光学涡旋轨道角动量以及光子轨道角动量用于无线光量子通信问题开展研究，主要工作如下：　　 1.通过分析具有轨道角动量的拉盖尔-高斯(LG)光束以及高阶无衍射光在空间中的传输特性，提出利用高阶Bessel无衍射光束作为信息载体进行空间光信息传输的轨道角动量编码解码方法。以计算全息图作为反射式相位调制的空间光调制器(SLM)实现光学变换，将高斯光束转换为具有不同轨道角动量的LG光束，通过涡旋光束轨道角动量携带信息，并通过由锥形透镜构成的模式转换器，将携带信息的LG光束转换成为具有相同拓扑荷的高阶Bessel无衍射涡旋光束进行通信。　　 2.在广义米理论的基础上，将高斯波束传输中的单球粒子散射推广到微小颗粒对具轨道角动量LG光束的散射。研究了具有轨道角动量LG光束的空间传输特性，通过对波束入射时的散射衰减截面求解得到波束因子，利用矢量球谐函数对入射高斯波束进行展开，研究了单球粒子在在轴条件下对具轨道角动量LG光束入射的散射问题。通过数值计算，讨论了散射强度及角分布在不同波束宽度情况下对其散射特性的影响，并与平面波的情况做了对比。　　 3.基于推广的复高斯函数展开法，计算了遮拦比对不同波长LG光束传输特性的影响，得到了LG光束近场传输中典型含光阑透镜光学系统对光束轨道角动量影响的统计规律。分析了LG光束通过含光阑光学系统传输的解析公式，理论推导了空心LG光束在柱坐标系下光子轨道角动量密度函数及其态矢。对1阶LG光束通过光阑后的光场分布情况进行了数值分析，研究了LG光束通过光学系统后的相位分布及轨道角动量密度变化情况。　　 4.针对典型LG光束受大气湍流影响所产生的附加相位起伏，结合量子相位的变化，提出了利用光子态矢函数研究大气湍流对LG光束光子轨道角动量的影响的新方法。LG光束通过大气湍流时会受湍流影响产生相位起伏，导致与方位角坐标相关的光量子相位的变化，并对涡旋光束的轨道角动量产生影响。分析了大气湍流对涡旋光束引入的附加随机复相位，与LG光束自由空间传输情况对比，计算了受不同强度湍流影响后光束经典相位的变化情况。　　 5.利用涡旋光束光子轨道角动量态作为信息载体实现光量子通信，提出一种基于无衍射高阶Bessel光的光子轨道角动量态密码通信方案。将具有不同轨道角动量态的光量子用于量子信息编码，将携带一定轨道角动量的涡旋光场由分束镜构成的发射单元分两路进行发送，接收端利用两个成一定角度的达夫棱镜将每路光进行旋转，对两路光束产生一个相位差，然后通过分束镜用光子探测器进行接收，根据两个光子探测器对传输光子态的响应情况判断光子的轨道角动量态实现解码。　　 进行了LG光束的产生以及LG光束轨道角动量测量的实验研究。