极化码作为第一类证明可达二进制输入离散无记忆信道对称容量的信道编码,因编译码复杂度低,构造高度结构化而颇受瞩目。然而,由于连续消除(SuccessiveCancellation,SC)译码下中短码长极化码的性能不尽如人意,如连续消除列表(Successive-Cancellation List,SCL)般的改进译码算法竞相涌现,大大提升了极化码的译码性能,但也增加了译码复杂度,不利于落地应用,因此又出现了许多致力于削减译码复杂度的算法。另外,为了提高频谱效率,实现二元极化码与高阶调制的联合设计也刻不容缓。本文主要对极化码的译码算法和编码调制方案进行深入研究,从提升译码性能、削减译码复杂度两个方向分析和改进译码算法,并从多层编码(Multilevel Coding,MLC)调制入手设计极化编码调制方案。基于极化码的编码结构和几种经典构造算法,本文研究设计信噪比(Signal-toNoise Ratio,SNR)偏差值对极化码性能的影响,提出基于高斯近似构造算法的抗SNR敏感性传输策略,提高系统在非理想情况下的编码性能。基于多循环冗余校验(Cyclic Redundancy Check,CRC)辅助SCL译码算法,本文提出奇偶校验(Parity Check,PC)辅助Multi-CRC-SCL译码算法,通过在多CRC编码的基础上级联PC比特,增大错误路径的惩罚度量,减小错误删除正确路径的可能性,在保留早期终止功能的前提下进一步提升中短码长极化码的译码性能。此外,为了更好地解决译码性能与计算复杂度之间的矛盾,本文提出分段CRC辅助连续消除缩减列表译码算法,在各分段CRC校验处对列表予以削减,进一步删除无效路径,削减不必要的复杂度。同时,通过为各分段CRC比特分配最可靠的极化比特信道提高其传输可靠性,减小错误删除正确路径的可能性。在引入基于集分割映射的MLC调制的基础上,本文提出基于均分比特层误比特率的极化码MLC调制方案,通过为各比特层分配均等的目标误比特率完成各组分极化码的码率分配和固定比特位的选择,提升极化编码调制方案的性能。更进一步,本文提出基于容量分布的最高有效位优先极化码MLC调制方案,通过统一排序全体二阶极化比特信道的对称容量,以更高比特层更高比特位优先选择的形式分配组分码码率和选择固定比特位,大幅度提升极化编码调制性能。此外,本文提出联合匹配译码器的极化码MLC调制传输方案。提出方案通过合理分配各组分极化码译码器的列表长度,在保证译码性能良好的前提下可大幅度削减复杂度,并通过复用CRC编译码器进一步减小占用的存储空间。