自由空间光通信是以激光器产生的光波作为载体,大气环境作为传输信道的通信技术,因其带宽资源丰富、信道容量大、部署灵活且信息传输安全性高,所以在城域网部署、军事领域、星际通信等方面具有广泛应用前景。空间分集是自由空间光通信系统应对复杂多变的大气信道有效的技术手段,尤其在中继辅助传输条件下,空间分集产生的信道增益可显著提高传输稳定性。现有的空间分集自由空间光通信相关研究仍主要基于强度调制/直接检测。相干光通信相比强度调制/直接检测在接收灵敏度、抗信道衰落、带宽利用率等方面具有明显优势,已被公认为是自由空间光通信系统实现长距离高速传输的关键技术,其相关研究主要专注于系统性能分析、编码调制技术、数字信号处理技术等。目前,在空间分集自由空间光通信中应用相干接收的研究较少,这是因为在系统结构复杂度受限的条件下,空间分集系统多发多收的结构特征不利于相干光接收机的实现。本文针对支持空间分集自由空间光通信系统中相干光通信的应用进行研究,设计出低复杂度的相干接收装置;为了避免频谱浪费,提出了非对称星座传输方案;为了解决信息错误传播的问题,提出了星座重构和控制纠错机制的方案。主要内容如下:1.利用不同的空间信道分别对高阶正交幅度调制光信号的同相分量和正交分量进行相干探测,设计一种低复杂度的相干光接收机结构。可在获得分集增益的同时降低相干接收机对耦合器和光电探测器阵列的要求。仿真结果表明,简化相干光接收机结构在4×4空间分集自由空间光通信系统中能实现接近传统相干接收机的传输性能。2.空间分集使得自由空间相干光通信系统能够分别解调同相和正交信号分量,从而简化相干检测器。更重要的是,由于同相分量和正交分量的信道条件不同,有机会实现一个非对称正交调幅星座,该星座可以更充分地利用同相分量和正交分量的信道容量。性能结果表明,非对称正交幅度调制传输系统,在误码损失可接受的情况下,可以实现结构简化和频谱效率提高。3.研究非对称星座传输方案中出现不同星座点符号承载信息量不同时,造成信息错误传播的问题。在保证通信质量的前提下,为降低错误传播的发生概率,通过星座重构将承载不同信息量的星座点尽可能远分隔开。引入纠错机制,比较接收信号与发射信号的信息量,从而纠正接收信号的比特信息。仿真结果表明,引入星座重构和纠错机制后的非对称星座传输方案的错误传播概率明显降低,系统性能明显提高。