在100Gbps及以上高速光纤通信系统中,偏振模色散和非线性等成为限制系统性能提升的主要因素,除了可以采用色散补偿模块补偿偏振模色散、背向传输方法补偿非线性带来的损伤外,还可以采用前向纠错(FEC)技术补偿高速光纤通信中的各种损伤。以低密度校验码(LDPC)为代表的软判决码型因其优良的纠错性能逐渐成为第四代通信技术的主要码型,LDPC在高速光纤通信中的应用逐渐成为通信领域研究的热点,本文正是基于此而展开研究的。LDPC码有很多优点,它适合于长码长,结构良好的LDPC码纠错性能优于Turbo码,是距离Shannon极限最近的码,它可以采用随机构造法和结构化构造法,码型设计灵活；结构化的码型其监督矩阵容易存储,硬件实现方便；稀疏的监督矩阵使得编译码复杂度很低,近似下三角矩阵编码方法可以近似达到线性时间编码复杂度；译码采用软判决方法,充分利用了信道概率信息,误码率更低,译码更准确。本文围绕LDPC码在100Gbps高速光纤通信中的应用展开研究,具体工作及所得结论如下：(1)实现若干种LDPC码型,包括有限几何码、SCG码、QC准循环码、PEG码和π旋转型LDPC码,并从码型构造和纠错特性上展开研究,进行了相应的数值仿真。结果表明：SCG码和QC码可以确保无四环；有限几何码、QC码和π旋转型码易于硬件实现,π旋转型码只需要一个置换向量就可以生成基础子矩阵,进而构造出整个H矩阵,存储空间小；SCG码码率高,适用于BER较小的系统,而QC码、PEG码和π旋转型码适用于BER较大的系统；PEG型码环长可控,有限几何码码率可调。(2)分析高斯消元和近似下三角方法的编码时间复杂度,后者在选取g很小时,可以近似为线性时间复杂度,优于前者；推导了置信度传播译码算法信息传递公式；对其他若干种译码算法进行了阐述。(3)用optisystem软件搭建了100Gbps PDM-DQPSK仿真平台,仿真了不同码率π-旋转型LDPC码在100Gbit/s PDM-DQPSK系统中的性能,结果表明,码率为0.5的π-旋转型LDPC码相比0.75的同种码会带来更大的净编码增益(NCG),在BER为10-9下可把OSNR容限降低到14.3dB,而在采用卡方统计作为译码初始化概率模型时,可进一步将OSNR容限降低0.1dB,同时,仿真了该种码型对色度色散(CD)、偏振模色散(PMD)和非线性(NL)的容忍度。(4)提出了一种加入特征位的改进译码算法,这种算法预先加入一定数量的标志位,通过接收端标志位的值推断信道中噪声的分布,进而对译码初始化公式带来影响,最终使译码性能得到改善。仿真表明：该方法可以减少25%到50%的迭代次数。