新一代卫星移动通信系统需要实现更高的数据速率和频谱利用率来满足传输多种业务的需求。多输入多输出(MIMO，Multi-input multi-output)技术能够在有限功率和频谱资源的条件下空域资源的充分挖掘利用，对系统性能的进一步提高意义重大。然而，由于收发两端，特别是地面终端的功耗、体积和硬件复杂度受限，单个终端上多天线的实现目前仍然比较困难，严重阻碍了MIMO技术的发展。此时，协作分集通过多个单天线终端之间相互协作，实现了多天线的虚拟MIMO。需要研究适用于卫星系统的协作分集传输技术，以增强卫星移动系统信号传输的可靠性与有效性。本文首先建立卫星地面混合协作分集通信系统模型，之后分别介绍卫星移动信道和地面无线移动信道信号传输特性，选择适当的信道模型进行系统信道建模，并对各个信道进行了仿真。然后，介绍并选择相关协作分集传输技术应用于所建立的系统。在其他传输技术方案一定的前提下，将放大前传(AF,Amplify-and-Forward)和译码前传(DF, Decode-and-Forward)两种中继转发模式分别应用到卫星协作分集系统，考察系统中断概率和误码率；结合协作分集系统的特性与计算机仿真结果，比较两种方式的整体性能，得到最优中继转发模式为DF。然而DF模式又具有以下缺点：系统中断概率性能较差，和由协作导致的频谱利用率下降。然后，针对DF模式下系统中断概率性能较差的特点，本文将编码协作(CC，Coded Cooperation)模式作为对DF模式的一种改进形式应用到协作分集系统中，理论分析结果与计算机仿真结果相吻合，且显示出CC模式对系统中断概率的大幅度降低。而针对协作分集系统频谱效率较差的特点，提出了一种DF模式与自适应编码调制技术和自适应中继协作相结合的自适应DF中继转发策略，给出了策略算法流程图，仿真结果表明，该策略能够在保证目标误码率的前提下，使系统具有更高的平均频谱利用率。最后，对本文进行了归纳总结，给出本文结论。