近些年,数字相干光通信因其灵敏度高、选择性好、对频谱识别度高等优点逐渐成为主流光纤通信技术。数字相干接收也凭借其高灵敏度的特性成为了自由空间光通信和无中继光纤传输系统等接收光功率受限制的光通信系统中的主流接收方式。更高的灵敏度通常代表着更远的传输距离和对接收光功率更低的要求。在相干光通信的众多调制格式中,m阶脉冲位置联合正交相位调制格式（mPPM-QPSK）具有极高的灵敏度理论极限,在光通信系统中具有极高的研究价值。本文基于高灵敏度数字相干光通信系统,针对mPPM-QPSK调制格式,从理论分析、高速背靠背数字相干光通信实验和接收端数字信号处理算法等方面入手,不断提升系统的接收机灵敏度,使其进一步接近理论极限。主要研究内容包括:1.调研了高灵敏度数字相干接收技术国内外研究现状,介绍了mPPM、mPPM-QPSK、Nyquist-mPPM-QPSK 几种调制格式的基本原理,对其理论性能和优缺点进行对比分析。并通过理论推导,得到接收端不同光前置放大器噪声系数时的信噪比变化。2.搭建了速率为 10Gb/s 的 mPPM-QPSK 和 Nyquist-mPPM-QPSK背靠背相干光通信系统实验平台。介绍了接收端数字信号处理的基本流程,并依次介绍了各部分所用具体算法以及算法的基本原理。3.从实验的角度出发对系统灵敏度进行了优化,针对不同调制阶数的mPPM-QPSK调制格式优化了实验中会对接收机灵敏度产生影响的可调的参数,包括任意波形发生器的输出幅值、EDFA的泵浦电流和光滤波器的带宽。4.从接收端数字信号处理算法的角度进行了优化。首先通过mPPM-QPSK信号特性进行分析,提出了一种低资源量快收敛的改进的Gardner时钟恢复算法,介绍了其基本原理并与传统Gardner时钟恢复算法进行对比。其次通过对接收到的mPPM-QPSK信号零时隙的噪声分布进行分析,提出了一种内圈模值不为零的两模均衡算法,并优化算法的各个参数。最后给出了最终的实验灵敏度,其中2PPM-QPSK灵敏度与理论极限仅相差1.3dB。