近年来,卫星之间的信息传输越来越频繁,信息量也越来越大,对传输数据率要求较高。相比于传统的通信技术,卫星激光通信技术具有通信容量大、保密性好、传输速率高、体积设备小、重量轻以及低功耗的特点。星地激光通信是卫星激光通信网络的重要组成部分,其主要传输介质是真空信道和大气信道。然而,卫星与地面之间的信息传输会受到大气湍流的影响,会造成一系列的效应,比如:光束漂移、光强闪烁、到达角起伏和光束扩展等效应。为了缓解上述这些不利因素的影响,星地激光通信链路中可以采用各种技术保证通信性能的可靠性。因此,本文对星地激光通信系统做出以下方面的研究:在星地激光通信上行链路系统中采用了一种更广义的大气信道模型,即M分布,它对实验数据具有较好的拟合性。尤其是,它包含了大多数以前报道过的辐照度波动的统计模型。因此,本文基于M分布大气信道模型,在星地激光通信上行链路中研究了单载波高斯最小频移键控（GMSK）调制系统以及多载波相干正交频分复用（OFDM）调制系统。联合上行链路的光束漂移、光强闪烁、到达角起伏（AOA）这三者的共同影响,推导出单载波GMSK调制以及多载波相干OFDM调制系统的误码率的闭合表达式。在弱、中、强大气湍流下,仿真分析了信噪比与误码率的关系,并与目前星地激光通信实验中所采用的差分相移键控（DPSK）调制作对比。同时研究了天顶角、接收孔径、发射半径、束散角对星地激光通信系统性能的影响。进行了蒙特卡罗验证,结果拟合。考虑星上终端的体积与质量问题,下行链路采用了多孔径接收技术。研究表明,多孔径接收会带来孔径平滑效应,因此,在下行链路中采用了能缓解孔径平滑效应的指数威布尔（EW）分布来模拟大气信道模型。综合考虑光强闪烁、到达角起伏的联合作用,研究了下行链路多载波相干OFDM调制技术。基于调制技术的研究,在下行链路中提出了一种重复编码相干正交频分复用调制（RC-OFDM）单输入多输出（SIMO）系统,推导了SIMO RC-OFDM系统误码率的精准闭合表达式。在弱、中、强大气湍流下,对比仿真了未编码系统与SIMO RC-OFDM系统误码率与信噪比的关系,研究了接收机天线数对SIMO RCOFDM的系统影响。与此同时,研究了接收孔径、发射半径、天顶角以及束散角重要指标对星地激光通信下行链路SIMO RC-OFDM系统的影响。最后,进行了蒙特卡罗验证,结果拟合。该研究工作为星地激光通信系统的工程应用提供了理论依据。