近年来,对空间光通信的研究主要集中在获得更快的通信速率,以及提高包括大气湍流、指向误差等外界因素影响下的系统通信性能两方面。随着光纤模式解复用器的发展,基于少模光纤的空间光通信系统的接收端可以很好地和现有的基于单模光纤的系统兼容:将一根包含多个模式的少模光纤中的光信号低损耗低串扰地转换成多根只支持一个模式的单模光纤中的光信号。在这个背景下,空间模式作为一种新的维度,可以在链路状况较好时,通过模式复用技术,提高空间光通信系统的通信速率;或者可以在链路状况较差时,通过模式分集技术,提高外界因素影响下的空间光通信系统的通信性能。因此,基于模式的空间光通信系统成为了兼顾提高通信速率和保证通信质量的潜在解决方案,具有很好的实用意义和研究价值。模式复用和模式分集两种技术具有类似的技术手段,区别在于不同的模式是传输不同的信号还是相同的信号。这种特性使得同样的一套系统可按需实现两种功能,即可以实现在链路情况较好时提高系统的通信速率,或者在链路情况较差时提高系统的通信性能。基于少模光纤的模式分集接收便是这样一种新的能够提高系统在外界因素影响下的通信性能的技术。一方面,光信号在大气湍流等外界因素影响下将会激发基模以外的高阶模,而支持多个模式的少模光纤能够在同等情况下获得更高的耦合效率。另一方面,传统的基于光电探测器的接收端由于灵敏度等问题逐渐陷入了性能瓶颈,而采用模式分集接收的系统通过模式解复用器将一束少模光信号转换成一组单模光信号后,可有效利用现有成熟的基于单模的光前放大技术,从而大幅提高信号强度。更高的耦合效率以及更强的信号强度,都能够进一步提高系统的通信性能。然而目前的研究大多基于实验结果,关于少模光纤模式分集接收的理论分析鲜有深入报道。鉴于理论研究的缺失,在基于少模光纤模式分集接收的空间光通信系统的应用背景下,本文提出了在大气湍流或指向误差影响下的少模光纤耦合效率的理论模型。接着,在耦合效率模型的基础上研究了系统的通信性能。具体内容如下:（1）针对模式分集接收的空间光通信系统,提出了使用拉盖尔高斯模模式组对少模光纤进行模式近似的方法,分析了大气湍流对少模光纤耦合效率的影响。研究发现,少模光纤的不同模式的耦合效率随着湍流强度的增强而各不相同。此外,耦合参数对耦合效率起着至关重要的作用,不同的耦合参数能够导致在大气湍流下各高阶模的耦合效率大小关系的不同,这种特性对于优化系统的通信性能有很重要的意义。对于三模式少模光纤,其最优耦合参数为3=1.12;对于六模式少模光纤,其取得最大总耦合效率的耦合参数为6=1.69。现有实验结果也验证了少模光纤耦合效率研究模型的可用性。（2）针对指向误差对少模光纤耦合效率的影响,建立了光束偏移对少模光纤耦合效率影响的理论模型。研究发现在理想条件下,光束偏移或大气湍流影响下两种耦合效率模型具有一致性。此外耦合参数以及入射光束半径都能对少模光纤耦合效率起关键作用。（3）针对大气湍流下瞬时耦合效率的波动以及模式解复用器引起的损耗和串扰,提出了用截断多元高斯函数来描述模式解复用器单模光纤端的功率分布,从而进一步分析大气湍流影响下少模光纤模式分集接收的空间光通信系统的通信性能。考虑了等增益合并（equal gain combining,EGC）和最大比合并（maximal ratio combining,MRC）两种方案。由于极高的数学复杂度,提出了两种近似手段来获得系统在使用MRC方案时非条件平均误码率的级数解,并通过了蒙特卡洛仿真的验证。此外,对于MRC方案,还提出了利用平均耦合效率来估计对应的单模光纤的权重系数的预估手段,仿真结果表明,在弱湍流情况下,这种估计有很高的准确度。（4）针对零瞄准线偏移指向误差和非零瞄准线偏移指向误差各自的适用背景,研究了指向误差对少模光纤模式分集接收的空间光通信系统通信性能的影响。当抖动方差较小时,瞄准线偏移的增大能较明显地降低系统的通信性能。而当抖动方差较大时,瞄准线偏移的增大对系统通信性能的影响不明显。本文的研究工作为基于少模光纤模式分集接收的空间光通信系统提供了理论依据,为系统的分析、设计、优化提供了详细的性能分析和理论参考。