协作分集可以提高通信网络的信息传输速率,因此近年来得到了广泛的关注和研究。在协作通信系统中,相关理论研究已经日臻成熟,实际系统方案设计也有了很多的成果。信源信道编码作为任何通信系统中不可或缺的组成部分,其在协作通信系统中的设计也尤为重要。针对协作通信系统的特性设计性能优良的编译码方案,可以给系统带来极大的增益。一方面,在众多协作转发方案中,量化转发方案因为拥有低复杂度和高性能两个优点而受到广泛的关注。然而到目前为止还尚未有相关文献提出基于多中继联合编码的量化转发方案。另一方面,压缩感知作为一项新型的信源采样编码技术,在某些情况下,可以以远低于乃奎斯特采样定理的速率进行采样。最近,研究人员发现压缩感知技术可以被用作信道编码甚至是联合信源信道编码技术,而其在协作通信系统中的应用也开始起步。本文基于量化转发和压缩感知提出了两种适用于协作通信系统的编译码方案。在第一种方案中,两个中继协同转发接收到的数据,其中每个中继仅转发接收信息量化码字的一部分,信道条件好的中继转发对接收端译码更重要的那部分数据。同时我们推导了接收端对数似然比(LLR)的计算方法。并且,在不影响协作转发的前提下,中继节点可以发送自己的数据,本文分析了该场景下中继端的功率分配优化问题。通过仿真发现,我们设计的量化转发多中继联合编码方案能够充分利用多分支分集。与传统量化转发方案相比,拥有更好的性能；并且中继端最优功率分配方案能够带来性能增益。仿真有效验证了中继最优功率分配的有效性以及本论文所提方案对环境变化的鲁棒性。接着,本文提出了多中继压缩协同方案。其中,信源和中继都使用压缩感知技术作为联合信源信道编码方案,且中继采用译码转发模式。本方案考虑了两种协同模式,一种为多个中继共同转发,另一种为选择最好的中继进行转发。对于这两种模式,分别研究了四种译码策略,得到了它们的可达速率。仿真结果表明,源端到中继链路的信道条件决定了两种模式哪种更优；系统整体信道条件决定了四种转发策略的优劣。仿真有效验证了压缩感知在协作通信系统中进行信源信道编码的可行性。