为了给用户提供更加多样化的服务和更加流畅的通信体验,当前通信系统亟需提升传输效率和传输可靠性。超奈奎斯特采样(Faster-Than-Nyquist,FTN)技术能够有效提升系统频谱利用率,因此有很大的应用前景。低密度奇偶校验码(Low density Parity Check Code,LDPC)凭借着近乎接近香农限的性能,已经是一种经常使用的信道编码方式,能有效提升通信系统的可靠性。LDPC卷积码可以看作是LDPC码的推广,其凭借简单的编码方式、更优的性能和灵活可变的码长等优点,已经成为LDPC码的有力竞争者。本文结合FTN技术与LDPC纠错编码技术,针对FTN系统下的LDPC码字性能优化进行深入研究,并进一步推广到FTN系统下LDPC卷积码性能的研究。本文简单介绍了 FTN技术的基本原理和FTN系统的基本系统模型,并在此基础上引入三波模型,进一步将相邻载波间的相互干扰考虑进来。针对FTN系统,本文提出了一套完整的LDPC码字优化策略,包含三个部分,分别是校验矩阵度分布的优化、基矩阵的优化和偏移量矩阵的优化,其核心的思想是寻找与特定参数的FTN系统最佳匹配的校验矩阵度分布并在此基础上尽可能通过优化基矩阵和偏移量矩阵来得到较佳的校验矩阵围长和环特性。此外,考虑到LDPC卷积码与准循环LDPC码的密切联系,本文将LDPC卷积码引入到FTN系统,并进一步将优化算法推广到LDPC卷积码的构造优化。通过仿真,验证了 LDPC码字优化算法的有用性。在1/2码率下,针对单波FTN系统优化出的准循环LDPC码字在FTN系统下相比规则LDPC码字取得约1.5dB增益,优化的LDPC卷积码字取得了额外0.4dB的增益,并且码字的错误平层更低。在7/8码率下,针对三波FTN系统优化出的准循环LDPC码字在FTN系统下相比规则LDPC码字取得约0.4dB增益。