大气激光通信因其具有信息容量大,传输速率高,抗干扰、抗截获能力强等优势得到了广泛关注。成熟的光纤器件应用于大气激光通信系统中能够发挥很大优势,因此空间光到单模光纤的高效耦合成为了大气激光通信的关键技术。本文主要研究了对准误差、随机抖动、大气湍流对空间光到单模光纤耦合效率的影响;为降低对准难度、提高耦合效率,本文分别采用单模多芯光纤及少模光纤进行信号接收,建立了空间光-单模多芯光纤及空间光-少模光纤的耦合效率理论模型,仿真结果表明相比于单模光纤,采用单模多芯光纤及少模光纤进行信号接收对安装平台振动、光束瞄准误差等干扰因素的抑制能力更强,提高了耦合效率;搭建了空间光-光纤耦合系统,验证了对准误差,随机抖动对单模光纤耦合效率的影响以及角偏移量对两模光纤耦合效率的影响,实验测得当角偏移量为180μrad时,相比于单模光纤,两模光纤的耦合效率提高了13.31%,实验结果与理论研究相符。为了减小大气湍流、平台抖动对通信系统的影响,本文详细研究了自适应光学技术和激光章动耦合技术。阐述了自适应光学系统的基本原理,推导了激光章动方案的脱靶量算法,研究了章动幅度,采样点数对脱靶量算法精确度的影响规律。仿真得出当采样点数为240时,脱靶量的计算误差在0.01μm左右。本文研究内容为大气激光通信的系统设计提供了理论依据。