在无线通信中，协作通信技术通过共享网络空间中其他用户的发射天线，使接收端获得空间分集增益，提高了整个系统容量。重叠时分复用技术通过时域信号的重叠提高系统的频谱效率。本文主要研究了递归重叠时分复用及其与协作通信结合后的系统性能。首先，介绍了重叠时分复用(OVTDM)技术，递归重叠时分复用(ROVTDM)技术以及并行级联的ROVTDM技术。通过比较，相同重叠重数的情况下并行级联的ROVTDM系统的性能更具有优势。其次，将OVTDM和ROVTDM系统和协作通信的中继，放大转发模式(AF）和解码转发模式(DF)分别结合，通过实验仿真得出结合后的系统在性能上都优于同频谱效率的AF、DF性能。在此还讨论了采用不同递归系数矩阵时系统的性能，结果显示完全递归的性能高信噪比的情况下才会略优于非递归系统，而其他递归的情况性能都不如非递归系统，但性能差别不大。最后，将并行级联的ROVTDM与AF、DF结合的系统性能相比于OVTDM、ROVTDM和AF、DF结合系统的性能有很大改善，不但提高了频谱效率，并且在相同误码率下信噪比也有大幅度的降低。另外，由于并行级联系统中交织器对其性能的影响较大，所以分析了不同交织器对系统性能的影响，仿真表明采用S交织器的系统性能较好。