在空间激光通信系统中,通常是利用光学天线将远场传输的空间激光耦合进光纤中,由光纤传输给探测器。为了获得较高的接收光能量,通常采用前置放大技术对接收到的激光进行放大,但是成熟的光放大器件都是基于单模光纤而研制,而且空间激光到单模光纤的耦合难度较大。当激光在大气链路中传输时,会受到大气湍流的干扰,以及来自悬浮粒子和气体分子的吸收与散射作用。这些现象都会影响空间激光的传输,最终会导致空间激光-光纤耦合能量进一步降低,严重时将影响通信系统的性能。本论文主要研究空间激光通信系统中不同模式的光纤耦合,为实现光能量前置放大、寻求高效率的光纤耦合方案,研究了三种空间激光-光纤的耦合方案:单模光纤耦合、少模光纤耦合、多模-单模光纤耦合(将多模光纤与单模光纤无偏心地连接,由单模光纤将光能量传输至前置放大器)。主要研究内容包括:(1)以单模光纤、2模光纤和多模光纤中的基模为研究对象,研究了在理想对准情况下的耦合效率随系统参数变化的规律,并分析了对准误差对三种耦合方案的影响。(2)在现有的单模光纤耦合理论基础上,创新性地在少模光纤耦合和多模-单模光纤耦合研究中加入大气湍流的影响进行分析并对比。结果表明随着对准误差或湍流强度的增加,方案一、二的耦合效率下降较快,而方案三的耦合效率下降幅度较小;在小误差量或弱湍流下,前两种方案的耦合效率较高,而在较大误差量或中、强湍流下,后两种方案更优。通过对多模-单模光纤的耦合方案的研究发现,当归一化湍流强度保持不变时,总耦合效率随多模光纤长度呈现周期性变化规律,因此实现总耦合效率的最大化需要控制多模光纤长度。(3)在真实天气环境下进行了距离为6.3km的单模光纤耦合实验,目前关于近地面、中长距离的光纤耦合实验少有报道,本文主要分析了耦合效率与天气和时间的关系。通过对空间激光到达角起伏的测量,反演出大气的归一化湍流强度,并带入理论模型得到单模光纤耦合效率,与直接测量的耦合效率值进行对比。结果表明通过反演测量的结果与直接测量的结果具有较好的一致性。