大气激光通信由于其保密性好、性价比优等特点,成为一种新型宽带接入技术。随着数据传输业务量的急剧增加,人们对大气激光通信系统的容量和传输速率提出了更高的要求;同时,大气湍流的存在会严重影响激光通信系统的有效性和可靠性。光多输入多输出(MIMO)技术可以在不增加频谱资源和发射功率的情况下,成倍提高现有系统的信道容量,但信道间干扰和激光器同步等问题导致其推广应用受到限制。而光空间调制(OSM)技术作为一种新型的光MIMO技术,其不仅采用传统数字调制星座(即信号域)传递信息,而且还通过激光器索引号(即空间域)携带信息。这样一来,激光器不仅是形成无线链路的媒介,而且承载着信息比特本身。所以,它为提高系统的传输速率提供了一种有效措施。鉴于此,学者围绕如何设计高效的光空间调制方案展开了广泛研究。目前,关于大气激光通信中光空间调制的研究,主要集中于OSM在各种信道模型中的误码率分析上,而关于如何提高系统传输速率、改善系统误码性能的理论和方法不够成熟和完善。基于此,本文以适合于强度调制/直接检测(IM/DD)的脉冲位置调制(PPM)和脉冲幅度调制(PAM)为基础,着重研究了如何提高传统OSM速率的方法。同时,引入射频通信中天线选择的思想,改善了本文所提方案的误码性能。具体如下:⑴相对于传统的光空间调制,光广义空间调制在传输速率上虽然有了较大的提升,但其误码性能不够理想。为此,本文利用PPM和PAM调制,通过每次同时激活两个激光器而提出了一种双空间调制(DSM)方案。同时,采用联合界技术推导出了DSM的误码率理论上界,分析了其传输速率和计算复杂度的影响因素,并与已有光空间调制的性能进行了对比。结果表明:DSM方案在保证光广义空间调制高传输速率的前提下,有效的改善了系统的误码性能。⑵现有光空间调制由于其传输速率与激光器数呈对数增长,这使得空间资源的利用率较低。因此,本文提出了一种完全光广义空间调制(F-OGSM)方案。该方案利用激活激光器数可变来传递信息,以此获得了传输速率和激光器数之间的线性关系。同时,利用基于信道范数最大化选择算法完成了激活激光器选择,有效改善系统的误码性能。最后,通过蒙特卡洛仿真的方法对F-OGSM以及现有的光空间调制进行了性能对比。结果表明:在相同的参数下,采用激光器选择算法前F-OGSM方案的误码率略高于现有的光空间调制,但其可实现的传输速率更高。而采用激光器选择算法后F-OGSM方案的误码性能明显优于其他方案。