低密度校验(LDPC)码作为一种可逼近Shannon极限的信道编码技术，正在被广泛应用于通信系统中。如何在带限信道中，采用LDPC码设计一个性能优异的通信系统，在理论和实现上都有相当的研究价值和应用前景。本文通过理论分析和计算机仿真，对LDPC码在线性高阶调制下的关键技术进行了讨论和研究，包括LDPC好码的选择、交织器对系统的影响、联合解调解码算法、线性映射方法等。 本文在理论上计算了高阶线性调制的LDPC码的信道容量和截止速率，对LDPC码在不同的调制方式下，在AWGN信道和Rayleigh衰落信道的工作范围进行了限定。 本文通过计算机仿真，对高、中、低三类码率的LDPC好码进行选择，并给出仿真结果；仿真和分析了交织器对采用LDPC码的线性高阶调制系统的性能的影响，得出了交织器不影响该系统的性能的结论，并给出了物理解释；研究了LDPC码和线性高阶调制的联合解调解码算法，发现联合解调解码算法能够改善性能较差的LDPC码的系统性能，却不能改善逼近香农极限的LDPC好码的系统性能；通过对系统采用不同星座图时的性能仿真和分析，研究了在采用LDPC码的线性高阶调制系统中，映射方式对系统性能的影响，得出了在BICM(Bit-interleavedcoded-modulation)中，Gray映射最佳，在BICM-ID(Bit-interleavedcoded-modulationwithiterativedecoding)中，采用LDPC好码时Gray映射最佳，采用一般的LDPC码时MSP(Modifiedsetpartition)映射最佳的结论，并对其成因进行了分析；仿真研究LDPC码的编码速率和M-QAM调制阶数的匹配，得出了在AWGN信道下，高码率LDPC码加低阶线性调制优于低码率LDPC码加高阶调制，在Rayleigh衰落信道下，中低码率LDPC码加高阶数的线性调制，优于高码率LDPC码加低阶线性调制的结论。