空间激光通信中的自相干探测方式采用地面光纤网络中的更为成熟的器件使其接收机结构简单,探测灵敏度仅次于零差探测方式,在未来卫星通信领域中极具潜力。本文主要对基于光前置放大器DPSK自相干检测系统进行了研究,首先介绍了系统的工作原理,分析了系统的不同调制方式的产生并通过仿真软件对比分析,系统使用前置放大器后接收灵敏度提高,同时研究了使用放大器后系统的误码率及信噪比。其次,对传统的单芯干涉仪和双芯干涉仪进行了比较,重点分析了当通信速率改变时双芯干涉仪延时线的优化选取,并使用仿真软件对比了温度导致延时失配的情况。研究了系统使用不同种光滤波器时的滤波效果,通过仿真得到了滤波器的最佳带宽。此外考虑到未来的实际应用,计算了系统的多普勒频移,合理选取滤波器的带宽有效地克服多普勒频移,还分析了不同条件下光信号到单模光纤的耦合效率。最后,搭建了光前置放大器DPSK自相干检测系统的实验平台验证了系统的误码率和接收灵敏度满足实验要求的条件下可以解调出原始光信号。