自由空间光通信系统具有良好的保密性和极高的通信速率,所以一直以来成为研究的热点。但由于在远距离激光通信时,光信号往往由于传输中复杂的环境而造成极大的衰减,致使到达接收端的光功率很小,因此需要激光通信系统具备较高的灵敏度。针对这一问题,本文对基于脉冲位置调制（pulse position modulation,PPM）方式的高灵敏度激光通信调制解调系统进行了设计,搭建了空间激光通信系统实验平台,并且通过具体实验对系统的灵敏度进行了测量,为高灵敏度光通信系统的相关理论研究提供了实验数据支撑,最后重点讨论了非线性效应对于系统灵敏度的影响。本文首先介绍了常用信号调制方式的原理,然后对光通信发射接收系统的组成结构进行分析。根据提高灵敏度这一要求选择了PPM调制方式,对发射端和接收端的各个部分的原理进行了研究和介绍后,设计了调制解调系统的发射端和接收端。其次,本文使用Optisystem对本文所要设计的光通信发射接收系统进行仿真,并搭建了高灵敏度的PPM激光通信调制解调系统。通过各种测试实验,对各部分所使用的光电器件做出选择,并对器件的参数作调整,从而对整个光通信系统进行优化。具体包括对射频放大器的选择和测试、调制器的选择和消光比（Extinction Ratio,ER）的计算、对接收端的设计改进与滤波器的选择、以及滤波器中心波长随温度漂移实验。文章最后研究了当发射端使用高功率放大器时系统设计方案的改进。讨论了在高发射功率下光纤产生的各种非线性效应对光通信系统的影响。从非线性效应会限制系统的占空比这一角度出发,讨论了限制系统占空比的各个因素,得出低占空比的信号受EDFA瞬态特性影响和非线性影响都会发生畸变。通过实验测试得到了信号畸变较小的占空比设置范围。最后通过改变光纤长度的办法抑制了光通信系统的非线性效应,测出了在不同光纤长度下的光谱与系统的灵敏度。