在未来无线通信系统中，中继技术是有效地提升无线通信系统整体性能的关键技术之一，被认为是在不明显改变骨干网络结构的同时显著提高网络传输性能、解决或部分解决传统蜂窝网弊端的有效途径，但中继传输中协作分集的获得是以损失部分系统吞吐量为代价的，而网络编码可以将多路不同信源的信息进行编码合并后再转发，从而节省传输资源，或在维持频谱效率下提高传输系统稳健性，与中继技术可以达到优势互补，提高系统的整体性能。网络编码协作中继传输的应用场景主要包括双向中继传输、多址接入中继传输和组播中继传输三种。　　 本文重点研究双向中继和多址接入中继与网络编码的有效组合。论文主要有如下几方面的工作：　　 1．研究了网络编码在双向中继系统中的应用，详细讨论了AF中继策略、DF中继策略和DNF中继策略以及在这三种中继处理策略下的系统吞吐量性能。　　 2．研究了双向中继系统扩展到多中继场景下的中继选择算法，分别比较了基于Max-Min准则和Max-Sum准则的选择算法的中断率性能，提出了结合两者在不同信噪比区域上优势的动态选择算法，并给出了一种针对双向中继场景的双中继选择算法。　　 3．研究了网络编码在三种多址中继系统中的映射设计。针对两信源一中继场景，从信息论角度出发，给出了一种基于阿基米德螺旋线的非线性网络编码映射。针对多信源一中继场景，给出了可获得满分集增益的复数域网络编码。针对多信源多中继场景，给出了基于线性全局编码核的非二进制网络编码设计。　　 4．研究了多址中继场景下网络编码和信道编码的联合设计。比较了Turbo码的两种译码算法性能，研究了与网络编码结合的迭代译码算法，并提出了基于最大比合并的简化译码算法。