卫星激光通信按照接收方式可以分为相干光通信和非相干光通信。早期的卫星激光通信系统采用非相干通信方式达到了中低速通信的要求,但系统的发射功率和接收机的灵敏度限制了通信速率的进一步提高。而相干光通信在长距离、高速率通信方面具有很大的优势,成为未来激光通信的主要手段。相干光通信系统还有许多关键技术需要解决,例如,由通信终端的相对快速移动引起的多普勒频移使载波同步受到影响;激光器的相位噪声引起激光器频率不稳定加大了解调难度;大气湍流的影响使通信链路的中断概率加大。本文针对这些问题研究了相应的解决对策:多普勒频移补偿算法,相位噪声抑制算法,多光束技术等。本文选择BPSK作为相干光通信的调制方式并对其误码率进行了仿真。针对多普勒频移的影响,提出了基于FFT及VV相结合的方法并研究了基于最小二乘的多普勒频移估计算法。对于相位噪声的影响,采用改进的LMS算法对其进行抑制。针对由于大气湍流引起通信链路中断概率加大的问题,本文引入了多光束技术,采用分集接收中的等增益合并和最佳合并接收算法,有效地减小了链路的中断概率。在对相干光通信中关键技术进行理论分析的基础上,本文使用Matlab对各个算法分别进行了仿真。从仿真结果来看,本文所给出的算法,有效地解决了上述问题,达到了改善系统性能的目的,为相干光通信系统的设计提供了参考依据。