协作通信技术是多输入多输出（MIMO）技术的实现方式之一，其通过协作分集的方式来提高传输的可靠性。传统的高阶调制技术虽然能带来比较高的频谱效率，但是其代价是系统性能的下降以及系统复杂度的提高。重叠编码复用（OVCDM）是一种编码与调制结合在一起的复数域卷积编码技术，它可以在低阶调制的基础上，获得很高的频谱效率，同时还能带来一定的编码增益。本文的主要研究了重叠编码复用技术与协作通信技术的结合，具体工作如下：(1)简单介绍了协作通信的相关知识，重叠编码复用技术的编码原理及维特比（Viterbi）译码算法，并对协作通信当中的放大转发方案和译码转发方案，以及重叠编码复用系统进行了实验仿真和分析。(2)研究了未加编码的重叠编码复用技术与放大转发及译码转发方案的结合，给出了具体的结合方案，并对结合后系统的性能进行了理论分析及实验仿真。实验结果表明，结合后的系统较传统协作通信系统，其性能和频谱效率都有了一定的提升。(3)研究了加编码的重叠编码复用技术与放大转发及译码转发方案的结合，给出了具体的结合方案，并对结合后系统的性能进行了理论分析及实验仿真。实验结果表明，加编码的重叠编码复用放大转发及译码转发系统，相比于未加编码的系统，性能有了一定的提升；由于外码的作用，重叠编码复用放大译码方案对信道的适应能力有了显著地提升，系统适用范围增强；相比于传统加编码协作通信系统，只有在中高信噪比环境下，加编码的重叠编码复用协作通信系统才能发挥其真正的性能。(4)简单研究了重叠编码复用技术与协作网络编码技术的结合，给出了具体的结合方案，并对结合后的系统中断率进行了理论推导及实验仿真。实验结果表明，结合了重叠编码复用的网络编码系统性能较结合前有了一定的提升。