5G(The 5th generation Mobile Communication)时代的到来伴随着更多样化的无线网络需求,商业化、智能化的步伐日渐加快,亟待进一步提升数据传输可靠性、提高频谱资源利用率以及支持更多的终端设备接入通信网络。传统将编码与调制进行独立设计、分别优化的方法难以适应新的挑战,而编码与调制技术的结合能够提高数据可靠度,扩充传输容量,继而解决频谱资源紧缺的问题。信道编码是提高数据传输质量的重要手段,在众多编码方法中,极化码因优异的性能脱颖而出,被采纳入5G控制信道的通信标准之中,在极化码编码调制相关领域仍然有较大的探索空间。本文围绕极化码编码调制技术进行研究,提出了极化码的叠加编码调制方案,极化码与星座成形技术的结合进一步接近了 Shannon极限,解决了高斯信道下星座点均匀分布带来的能量损失问题。本文探讨了发送端极化码编码调制的结构以及层间的能量分配算法,提出了复杂度低的联合解调-译码算法,同时结合极化码冻结位的特点简化了 SCAN(Soft Cancellation)译码算法,仿真表明,极化码叠加编码调制系统能够在发送端总能量受限的情况下获得较好的性能,在高斯信道下有一定的实际应用价值。同时,在5G接入网架构中,极化码与稀疏码多址接入技术(Sparse Code Multiple Access,SCMA)有广阔的应用前景。SCMA将高维调制与稀疏扩频相结合,在同一子载波中叠加传输多用户的信号,是一种特殊的叠加调制结构。SCMA的码本预设了用户的叠加调制方式,因此本文首先对SCMA的码本进行了研究,分析了现有码本的缺陷并改进了映射关系,获得了较好的性能。其次,重点研究了极化码与SCMA的联合编码调制技术,引入了两种极化码与SCMA的联合编码调制模型,分别是比特交织极化码编码的SCMA系统与多级极化码编码的SCMA系统,分别研究了适用的极化码构造和译码算法,并仿真评估了性能。