随着视频会议，流媒体服务等技术的应用和互联网的普及产生的信息爆炸式增长，对物理层的光传输系统也提出了更高的要求。在大量光纤传输路径中，如沙漠通信，岛间通信等，光缆线路经过的往往是自然条件恶劣，交通不便或无人居住的地区。中继站点的建设与维护十分困难，这就对光通信传输系统提出了更高的要求，需要光通信系统能够传输更远的距离，增大站间距离以减少中继站点的数量。因此，对400km甚至更长的站间跨距成为了研究和应用的热点，也对传统超长跨距光通信系统提出了更严峻的考验。超长跨距无中继光通信技术已经成为推动信息化社会发展的重要技术基础。为实现超长跨距无中继传输，我们拟采用偏振复用正交相位键控调制相干光通信技术。与直接调制/直接检测技术相比，相干光通信技术其灵敏度较高。在长跨距无中继通信系统中，光信号往往需要经过极限长距离传输且无任何中继放大设备，噪声较大，光信噪比较差。利用相干检测手段的高灵敏度可以更加有效的从噪声中恢复信号，增大传输距离。本论文研究了2.5G长跨距无中继PDM‐QPSK相干光通信系统的传输性能，并进行了实时实现。首先，基于离线处理平台下，深入研究了无中继相干光通信系统的传输特性。进行了离线处理算法的研究和优化，并优化传输系统以达到最佳传输性能指标。其次，基于离线系统设计并实现了一套实时处理系统。深入研究了适用于实时处理的算法模块设计。最后，分析了无中继相干光通信系统的性能，为以后实现更高速率更长跨距传输提供了技术支持和理论指导。