大气激光通信是微波通信与光纤通信相结合的一种新兴通信技术,综合了微波通信的灵活接入和光纤通信的高传输速率等优点,在很多领域,特别是军事领域具有广阔的应用前景。激光在大气信道中传输时容易受到大气湍流的影响,引起信号衰落,造成误码率增加,严重时甚至出现通信中断。多输入多输出(MIMO)技术不但可以有效抵御大气湍流,而且可以在不需要额外增加系统带宽和发射功率的前提下大大增加系统容量、提高系统频带利用率,因而成为改善系统性能的一种有效措施,是近年来大气激光通信领域的一个研究热点。然而,大量关于光MIMO技术的理论研究都是基于信道独立的假设条件,实验研究表明,这种假设过于理想化,并不切合实际。在实际的传输信道中,发散角过大及湍流等的影响都会引起各光束间的空间相关性。此外,系统终端尺寸受限会导致天线元素间距过小,空间相关性增大,进一步限制了光MIMO通信系统的性能。本文正是基于这样的考虑,在分析了大气湍流信道统计特性的基础上,针对强度调制/直接检测(IM/DD),重点讨论并分析了空间相关性对光MIMO系统的信道容量和误码率的影响,主要工作如下:(1)结合光MIMO系统的信道模型,分析了不同相关场景下的信道衰落系数矩阵,并采用指数相关模型分析了对数正态分布下相关光MIMO系统的信道特性,为下一步工作奠定了基础。(2)针对OOK调制,推导了采用均匀圆形阵列的相关光MIMO系统的平均信道容量以及中断信道容量的表达式,仿真并分析了空间相关性对二者的影响。针对PPM和MPPM调制方式,推导了考虑空间相关性的光MIMO系统在Poisson机制下的平均信道容量的表达式,并对结果进行了进一步化简。结果表明:空间相关性会严重影响光MIMO技术通过增加分集增益所带来的优势,而且这种影响会随着相关性的增加而变大。(3)讨论了PPM调制Poisson机制下的最大似然准则,在此基础上,推导了大气激光通信相关MIMO系统的误码率的上界,并采用Wilkinson近似方法对表达式进行了简化。结果表明:相关性的存在使得光MIMO系统的误码率增大。本文的研究成果对实际工程应用中合理地放置天线,以及根据信道相关性的大小合理地确定光MIMO系统的分集数具有理论指导的意义。