设计性能逼近信道容量、编译码复杂度较低的实用好码是现代信道编码领域研究目标之一。低密度校验(Low-Density Parity-Check, LDPC)码是一种能够逼近Shannon容量限的信道编码方案，已经广泛应用于各种通信系统中。LDPC码结构中的环是影响其性能的重要因素之一，最小环长和环的分布会直接影响LDPC码迭代译码的收敛性，造成较高的错误平层。另外，编码调制技术可以在不降低系统有效传输速率的前提下进行有效的编码和调制，已经成为未来宽带移动通信系统中的关键技术之一。针对以上两种通信物理层的传输技术，本文研究了LDPC码的欧氏几何构造及其多级编码调制传输方案。介绍了欧氏几何空间的概念以及现有的一些基于欧氏几何的LDPC码构造方法。为减少原有欧氏几何LDPC码中6环的数量，提出了一种混合面和线的欧氏几何LDPC码构造方法，通过计算机仿真分析了所构造码校验矩阵中6环的数量，并给出性能仿真结果。结果显示，与原有基于线构造的LDPC码相比，基于混合面和线构造的LDPC码校验矩阵中6环数大量减少，迭代译码收敛速度更快，误比特率为10-6时，采用和积译码算法时最大10次迭代和50次迭代之间性能相差仅为0.15dB。研究了基于欧氏几何LDPC码和Gray映射器的多级编码调制系统，分析了分层调制星座的比特不等保护特性，并给出了适用于所提系统的几种不同多级译码算法，包括硬判决多级译码（Multistage Decoding, MSD）算法、软判决MSD算法和并行多级译码（Parallel Independent Decoding, PID）算法，并通过计算机仿真了其性能。结果显示，基于Gray映射的多级编码调制系统采用PID算法时获得的译码性能几乎与采用MSD算法的译码性能相同，但PID算法的复杂度更低，且可以实现分层码的并行译码。