云计算、大数据等大带宽技术的发展,对以太网速率提出了爆炸式的增长需求,作为现代通信网络的重要组成部分,光通信系统进入“超高速”发展阶段。为了满足光通信中信道容量的快速发展,各种高阶调制格式和复用技术被广泛应用于提高系统的频带利用率。然而随着光通信系统复杂度的提高,信道所需要的OSNR增加,编码增益降低,信道中相邻码字间的串扰现象都将越来越明显,这些现象严重影响了光通信系统向“超高速”的方向跨越。为了使光通信系统传输信号的可靠性能大幅度的提高,接收端的OSNR容限进一步降低,研究人员相继提出了很多应用于各个光通信模块的先进技术,包括先进的调制技术,检测技术,纠错技术等。其中前向纠错(FEC)技术和相干检测技术已经被广泛地应用于超高速光通信系统,并展现出了优越的性能。LDPC码是一种重要的FEC技术,拥有最接近香农极限的纠错性能。近年来,随着高速光通信系统的发展,LDPC纠错码技术得到了广泛的研究,但是这些LDPC算法中,并没有考虑到相邻码字中由于信道信息引起的码间串扰问题。本文主要致力于适用于超高速光通信系统的LDPC编译码算法的研究,实验证明,在LDPC码中插入标志位,从而提取信道信息的方案,能在很大程度上提高系统性能。本文讨论的主要内容及结果如下：(1)用Matlab搭建了DQPSK直接检测100G/s高速光通信系统,以及QPSK/16QAM相干接收100G/s超高速光通信系统。并分别仿真得到使用LDPC码纠错之前和使用LDPC码纠错技术后系统的系统性能。(2)研究了适用于DQPSK直接检测光通信系统的基于LDPC的水印方案的性能,并仿真几组不同水印位数量下的水印方案的性能,给出了100Gb/s系统中水印方案中水印位数量的最佳比例。仿真实验表明,在BER=10-9时,与传统的对数似然比传播(LLR-BP)译码算法相比较,采用水印方案的LDPC码的最佳净编码增益(NCG)提高了0.5dB,同时,算法的译码平均迭代次数也得到了降低。(3)详细推导了16QAM高阶调制光通信系统中LDPC码的LLR-BP译码算法公式,提出了适用于该系统的水印符号辅助的LDPC方案,并仿真该算法在超高速光通信系统中的性能,仿真结果表明,改进的水印方案同样适用于16QAM相干接收光通信系统。总之,本论文的主要工作集中在研究适用于超高速光通信系统的水印方案上,该方案是一种LDPC码的修正方案,对DQPSK直接检测光通信系统和16QAM相干接收光通信系统的,都能进一步提高传统LDPC纠错码的性能,对未来的光通信系统有一定的意义。