相比于传统的射频通信和光纤通信,自由空间光通信(FSO)因为传输速率高、可用频带宽、低功率损耗以及保密性好等优点引起了学术界广泛深入地关注。然而,在自由空间光通信领域,其传输信道为大气信道,大气温度和压力的改变所导致的大气折射率的随机改变会引起光束漂移和光强闪烁等大气湍流效应,具体表现为光信号的强度起伏和相位噪声,从而严重地劣化光束的传输质量,导致FSO系统的误码性能降低、通信中断概率升高和信道传输容量的减小。这种FSO系统接收性能的下降会较严重地影响通信系统工作的稳定性和可靠性,从而较大程度地限制FSO关键技术的进一步发展与应用。分析大气湍流对FSO系统接收性能的影响和从提高传输光束质量的角度来提高光信号的接收总功率是提高FSO系统稳定性和可靠性的关键因素。光的偏振态在FSO链路中传输时受大气的扰动较小;圆偏振态具有旋转对称的特性,在相对运动的平台中使用时无需发射端和接收端偏振坐标系的对正;且具有圆偏振态的光束的光强在大气信道中经粒子散射后的分布会更均匀。这些优点使得圆偏振调制技术在FSO通信领域具有广泛的应用前景。因此,本文基于光的圆偏振特性提出了一种圆偏振调制(CPol SK)系统的具体理论模型。在此基础上,重点对光束准直整形系统、发射端调制系统以及接收端解调系统几大功能模块进行了解析,并从提高通信容量的角度,对结合CPol SK技术的多级调制技术进行了研究。研究的具体内容如下:首先,论述了大气湍流对光通信链路的影响,分析了圆偏振调制的技术优势和调制解调思想,提出了一种CPol SK调制的FSO系统模型。从提高传输光束质量的角度,提出一种前端直接耦合光纤平凸透镜的聚合物直光锥光束准直系统,通过光线传输理论和仿真实验具体地对直光锥的端体结构参数锥角、锥长等进行了优化设计。并在考虑由系统设计导致的圆偏振控制误差和大气湍流引起的光强起伏和相位噪声的基础上,提出一种CPol SK系统调制解调的具体实现方案。其次,采用和实测数据比较一致的Gamma-Gamma大气湍流信道模型,在考虑圆偏振控制误差和大气湍流影响的基础上,针对弱、中、强三种不同大气湍流下CPol SK系统的误码性能、通信中断性能和平均信道传输容量等接收性能进行了深入的研究。推导出了CPol SK系统的比特误码率(BER)、中断概率(Pout)和平均信道容量(<C>)的闭合表达式。较全面地仿真分析了弱、中、强各种湍流条件下由系统设计导致的圆偏振控制误差以及由大气湍流所引起的光强起伏和相位噪声对CPol SK调制系统主要接收性能影响。最后,从提高即时信息传输容量的角度,提出了一种基于CPol SK/DPSK双调制的FSO系统模型,给出了具体的调制解调理论模型,并通过仿真论证了该双调制系统不仅能较好地克服大气湍流效应而且能即时独立地传输大量数据包、消除调制串扰。此外,通过与FSO中采用单独调制的CPol SK系统以及DPSK系统进行性能对比,所提CPol SK/DPSK双调制系统的性能优势得以凸显。