自由空间光通信(FSO)是一种以光束为信息载体,在视线无遮挡的空间信道中进行点对点传输的无线通信技术。自由空间光通信系统同时具备了微波通信与光纤通信优点,比如容量大、建网快、无需授权、保密性好等,可用于电信“最后一公里”或者局域网的楼宇间链路。然而,地面自由空间光通信系统性能不仅受系统指向误差的影响,还受大气信道的影响较大(在大气信道中,复杂大气,如云、雾、雨、雪、气溶胶、湍流等情况经常发生)。因此,研究复杂大气环境对自由空间光通信系统性能的影响机理以及相应改善方法具有重要的工程应用价值。本文针对自由空间光通信系统的工程应用,从理论上研究了复杂大气环境对通信系统的影响机理及其改善方法,并且通过仿真的方法对系统性能进行了对比分析。本文主要工作内容与创新点:(1)空地激光通信系统性能主要受自由空间与复杂大气影响,分析空地激光通信信道中常见的大气环境(雾霾、云、湍流)、光束扩展、天空背景光、指向性误差对通信系统接收光功率的影响;利用接收信号光功率和接收天空背景光功率得到基于强度调制/直接检测的自由空间光通信系统链路余量、可达速率和误码率等系统性能参数的数学表达式。仿真计算了大气环境对空地激光通信系统性能的影响,分析了海拔高度与通信系统性能的关系,比较了非归零码开关键控调制方案和脉冲位置调制方案对系统性能的影响。(2)考虑到天气环境、不同湍流模型(Malaga模型和Exponential Weibull模型)以及零视轴指向性误差模型等因素对FSO通信系统的影响,建立了不同的联合信道统计模型,并利用数学工具H函数和Meijer-G函数推导出基于OOK调制的FSO通信系统的平均误码率、平均信道容量以及中断概率等参数及其新的数学解析式。仿真分析了在不同的湍流强度、不同能见度和不同抖动程度的条件下,不同的光束发散角和不同接收机孔径尺寸对系统性能的影响。(3)考虑天气环境、Exponential Weibull湍流、以及非零视轴广义指向性误差等因素对部分相干光FSO通信系统建立联合信道模型,并利用H函数和Meijer-G函数推导出基于开关键控调制的FSO通信系统的平均误码率、平均信道容量以及中断概率等性能参数的新的数学表达式。对激光波长为1550nm且链路长度为lkm的部分相干光FSO通信系统性能进行仿真,并分析空间相干长度、发射机平面光斑尺寸、接收机孔径直径、以及视轴偏移等参数对通信系统性能的影响。(4)在Malaga湍流信道和Nakagami-m衰弱信道条件下,对基于选择合并技术的混合自由空间光通信/射频(FSO/RF)通信系统性能进行研究。在考虑零视轴指向性误差的情况下,推导了采用副载波调制和强度调制直接检测方案的选择合并混合FSO/RF系统的平均误码率和中断概率,并利用Meijer-G函数和扩展广义双变量Meijer-G函数获得其新的闭合解。在不同的副载波调制方式、湍流强度、指向性误差和RF信道衰弱参数m情况下,比较分析了混合FSO/RF系统和单FSO系统的误码率和中断概率性能。(5)对联合孔径平均、相干调制和选择合并技术的混合FSO/RF通信系统(Exponential Weibull湍流信道和Nakagami-m衰弱信道)性能进行了分析。利用数学工具Meijer-G函数、扩展广义双变量Meijer-G函数以及广义高斯拉盖尔积分的级数展开式,推导出了系统的平均误码率和中断概率的新数学解析式。在不同的副载波调制方式、湍流强度、指向性误差和RF信道衰弱参数m情况下,比较分析了混合FSO/RF并行系统、混合FSO/RF双跳系统和单FSO系统的误码率和中断概率性能;考察了孔径平均技术对混合FSO/RF系统性能的影响。