稀疏码多址技术(SCMA)是一种高谱效的非正交传输方案,作为第五代移动通信系统(5G)中的候选多址技术之一,旨在满足以机器通信为代表的新兴场景下,对于超大容量、海量连接等需求。相比于其他的非正交多址技术,SCMA技术中引入了高维信号星座获得了成形增益和分集增益,同时采用非正交的稀疏叠加矩阵描述用户和资源的映射关系,由此在接收端可以采用近似最优的消息传递算法做多用户检测。然而当前SCMA系统的码书设计方案受限,难以推广到大规模的信号星座和大连接的指示矩阵中,研究简化高性能的码书构造方案成为了SCMA系统中的技术瓶颈。本文结合SCMA技术的发展现状,对编码技术在对SCMA系统中的应用和码书设计方面展开研究,完成的工作包括以下几个方面:本文首先介绍SCMA系统的基本原理,详述SCMA中用户与资源分配的关系,以及接收端多用户检测的消息传递算法,仿真实现了在不同系统负载下SCMA系统的性能,结果表明SCMA系统在超载的情况下,仍能够逼近单用户的性能界。在此基础上,提出了基于近似消息传递算法的联合检测译码算法,在以少量性能损失为代价的情况下,接收机的复杂度降为线性复杂度。接着,本文探讨SCMA技术与编码技术的结合,提出一种基于无速率码的递增冗余重传方案,并采用了联合检测译码迭代算法,能够大幅提升SCMA系统在衰落信道下的误码性能。然后,针对高阶调制,提出了多元LDPC编码的SCMA系统,相比于二元编码系统,有1 dB以上的性能增益。当SCMA技术应用于多小区场景中时,它可以有效地解决多小区中干扰控制和快速切换的问题,但较早地出现了错误平层。本文研究了SCMA系统中码本设计,包括高阶多用户高维信号和指示矩阵设计。本文提出了一种基于笛卡尔积的低投影高维星座设计方案,获得了更好的距离谱分布,降低了接收机的迭代次数和复杂度。同时比较了当前几种星座设计的方法、主要性能指标和误码率,本文提出的设计方案在0.5码率的编码系统中下至少有1.2dB的性能增益,但在未编码系统中性能几乎不收敛。在指示矩阵设计中,基于基模图扩展、代数或PEG辅助得到的大矩阵相比于和速率最大的6用户―4频率矩阵可获得1 dB的增益。