为了充分利用有限的无线资源,扩大网络覆盖与增强小区边缘通信质量,在下一代移动通信系统中引入了中继技术。但采用中继传输技术会降低系统的频谱效率,从而引起网络整体性能的下降。近来,网络编码概念的提出为提高无线中继网络的频谱效率提供了一个可行的解决方法,其允许中继节点对接收到的多路数据包进行编码聚合后转发,从而显著提升传输网络的频谱效率。本文基于无线多址接入中继传输场景,对结合不同编码方式的网络编码技术进行深入研究,使其在保证无线中继网络传输效率的前提下,改善无线中继网络的传输可靠性。本论文的主要研究内容及创新在于：从Turbo码编译码的设计原理出发,使其与网络编码技术相结合,提出了一种串行中继下Turbo码的网络编码设计方案。在该传输方案中,中继节点依据接收的信源信息向基站转发两路信源节点原始信息异或操作后的编码冗余信息。在基站设计相应的联合信道-网络编码迭代译码方案,最终实现对每个信源节点编码信息的Turbo迭代译码,用以提高网络传输的可靠性。其次,为了进一步提高无线中继网络的传输效率,进而提出一种并行中继下Turbo码的网络编码设计方案,其允许中继节点在接收信源节点信息的同时还可以向基站转发相应的网络编码信息。研究表明：在保证系统传输效率的情况下,相比于中继解码转发方案,应用网络编码技术可以有效的提高网络传输的可靠性。从LDPC码的编码方式和迭代译码方法—置信传播算法角度出发,并与乘积码原理相结合,提出一种基于LDPC乘积码的网络编码设计方案。中继节点通过利用LDPC乘积码的列向编码来代替异或操作实现对信源信息的合并,用以产生额外的编码冗余信息。在基站端,其接收的信源节点与中继节点的编码信息可以看作是行与列进行独立编码的乘积码结构,并设计相应的LDPC乘积码迭代译码算法用以恢复信源节点的原始信息。基于该设计方案,通过深入分析LDPC乘积码的译码性能,进一步提出了外信息转移(EXIT)曲线图与小高斯增量相结合的度分布优化算法。该算法主要是对中继节点的LDPC乘积编码进行优化设计,同时可预测LDPC乘积码的迭代译码性能。仿真结果表明：所提网络编码传输方案的误码率性能明显优于异或操作的网络编码方案；优化的网络编码方案进一步改善了传输网络的误码率性能,利用EXIT曲线图实现了迭代译码性能的近似估计。从无线广播的分层传输原理出发,结合中继节点的联合信息处理方式,提出了一种基于叠加码的网络编码传输方案。信源节点通过引入基于叠加码的分层调制传输方案,同时向中继节点与基站广播信源编码信息。依据直传链路与中继链路的信道特性不同,中继节点可以接收到可靠的信源节点信息并对其进行联合信道-网络编码后向基站进行转发。基站通过直传链路可实现高优先级信源编码信息的接收,使其与中继节点转发的编码信息进行联合译码,从而实现信源节点原始信息的恢复。仿真结果表明：在中继链路的信道特性优于直传链路的信道特性条件下,叠加码的网络编码方案所对应的误码率性能优于传统异或操作的网络编码方案。本文在深入研究两信源节点的无线多址接入中继网络性能的基础上,将其向多个信源(大于2)-单中继的通信场景进行扩展,提出了多源中继网络编码方法。在考虑无直传链路的条件下,推导了中继节点处多源网络编码矩阵的数学表达形式。在考虑直传链路的条件下,给出了中继节点的多源网络编码矩阵的表达形式与基站端的迭代译码算法的实现过程,同时提出利用EXIT图对迭代译码的性能进行分析。EXIT图分析与仿真结果表明：在低链路信噪比的条件下,所提方案的误码率性能低于最大比合并的传输方案；但在较高链路信噪比的条件下,所提方案的误码率性能有明显的性能优势；此外,随着中继链路信噪比的增加,所提方案的误码率性能也会随之有明显的改善。