为了实现全球移动通信系统的无缝覆盖，特别是对偏远地区、海上以及重大突发事件下的通信覆盖，十分迫切的需要卫星移动通信系统的加入。但是卫星移动通信中的无线信道是典型的衰落信道。另外，卫星移动通信需要建立可视通信链路，以保证可靠通信。这些问题严重影响了服务的可用性。近些年，由于MIMO(Multiple Input Multiple Output，多输入多输出)技术显著的容量和优秀的性能，MIMO系统得到了深入的研究。但是在卫星移动通信中使用经典MIMO方法并不合适，因为在一个无线终端上安装多个天线十分困难，而且卫星移动通信设备的尺寸、硬件复杂度和功率损耗都是受到限制的。因此，协作通信被引入来代替经典MIMO方法。协作通信的基本思想是针对无线信道的广播特性，通过共享分布式网络中各个节点的天线，形成虚拟MIMO，以获得系统增益。协作通信技术可以使系统在不增加硬件复杂度的情况下，得到分集增益，提高系统性能。因此，协作通信技术在未来无线通信系统的研究中得到了越来越多的重视，特别是在卫星移动通信系统中的应用前景十分好。因此，本文将深入研究在卫星移动通信系统中应用协作通信模型的性能。首先，对本课题的国内外研究现状进行归纳，并且分析目前存在的问题。再从理论上分析在卫星移动通信系统中应用协作通信技术的必要性和可行性，在此理论分析的基础上，深入研究分析包括放大转发、译码转发、编码协作等协作通信技术的几种典型模型，以及各种模型使用在卫星移动通信系统中可能存在的问题和可能有效的改进方法。在建立各种模型的基础上，分析对比了几种典型协作通信模型的中断概率情况，并且与非协作模型进行对比；然后，对适合卫星移动通信系统使用的信道纠错编码和网络编码进行理论分析。对AR4JA (Accumulate Repeat-4Jagged Accumulate)码的编码结构，适用于卫星移动通信系统的优点以及译码方法进行深入研究。并对网络编码的定义，典型构造方法及方法特点进行深入分析；最后，分析了卫星移动通信系统中需要用到的几种经典信道模型，根据研究需要构造了两种卫星移动通信系统模型，分别用以分析协作系统中两用户和多用户情况。根据所建立的模型以及前面章节的理论分析，逐步分情况对卫星移动通信系统中各种协作模式进行仿真分析，性能比较。