随着无线通信的快速发展，如何实现更高传输速率、更高带宽的无线传输等问题日益重要。这些问题的根源是如何提高信道容量。中继和协作传输技术的出现解决了信号的传输距离问题，能扩大网络覆盖范围，同时提高网络容量，成为近年来的研究热点之一。本文结合现有的理论成果，将传统的信道编码技术应用到中继系统以获得更好的性能，并对具体的协作传输方案进行研究。我们首先针对包含一个信源节点、一个中继节点、一个目的节点的(1,1,1)中继信道的时变特性，以最小化系统错误概率为准则，设计了一种新的系统方案。根据编码函数，对不同信道上的发送信号选择具有最佳汉明距离的纠错码进行保护，使系统错误概率最小，并采用时变功率分配算法对信源节点和中继节点的发送功率进行优化。当信道为包含多个中继节点的(1,MR,1)(MR>1)中继信道时，研究了多元低密度校验(Low-Density Parity-Check, LDPC)码在中继系统中的应用，提出一种结合可高效编码的LDPC码的选择性中继协作方案。多元LDPC码的校验矩阵采用双对角结构。根据信道状态信息，对中继节点进行排序，挑选最好的NR个节点进行最大似然译码(NR≤MR)。在准静态瑞利衰落信道下，该方案可降低系统复杂度和系统错误概率。接下来，针对包含MS个信源节点、NR个中继节点、一个目的节点的(MS,NR,1)(MS>1, NR>1)中继信道中，各发送用户的相互干扰问题，提出一种叠加调制算法。各用户在发送自己信息的同时协助其他用户进行信息转发，采用联合设计的叠加调制函数形成重构信号，接收端利用该函数完成干扰消除。以最大化系统容量为准则，对各用户的重构信号进行自适应功率分配。当信道为包含多个目的节点的(MS,NR,KD)(MS>1, NR>1, KD>1)中继信道时，给出了一种结合机会通信和网络编码的多用户协作通信方案。各用户通过中断概率判断是否作为伙伴的中继进行信息转发。中继节点借助网络编码技术，对自己的发送信息和伙伴的信息进行处理，然后发送至接收端。接收端同时收到多个发送端的信息，采用相干检测对其进行处理。该方法可合理地选择中继节点，在准静态瑞利衰落信道下显著提高网络的吞吐量。