随着人们对移动通信业务需求的不断增长，移动通信系统正朝着高速、宽带、多业务和低成本的方向飞速发展。多输入多输出(MIMO)技术充分开发空间资源，利用多个天线实现多发多收，在不需要增加频谱资源和发送功率的情况下，可以成倍提高信道容量，有效提高通信系统的频谱利用率和可靠性。但是，由于成本、功耗和体积等因素，在一些移动终端很难安置多根天线，从而严重阻碍了多天线技术在无线通信系统中的应用。协作分集技术通过天线的协作共享，形成一个虚拟的多天线系统，从而获得可观的分集增益，为MIMO技术的实用化提供了一条途径。本论文完善了无线协作网络相关的性能分析，在此基础上，通过功率优化分配进一步提高了系统的性能，主要工作概括为：1.基于放大转发(AF)的协作系统采用AF协作时，中继不需要译码，支持盲接入，实现复杂度低，可应用到众多系统。采用AF协作导致源到目的节点信道为重叠信道，增加了理论分析困难。论文基于已有研究，重点解决：其一，多中继系统的最优功率分配问题。首先推导了瑞利衰落信道下传统多中继AF协作系统在M-PSK和M-QAM调制方式下的平均误符号率(SER)及高信噪比(SNR)下的SER近似值，接着，基于此近似值，在总功率一定的条件下，采用Lagrange乘数法得出了最优功率分配的闭式解。结果表明：与等功率分配相比，功率优化分配可以降低系统SER，且M-PSK和M-QAM方式下的最优化功率分配相同，与源和目的节点之间的直达路径的信道质量无关，仅依赖于与中继相连的信道质量。其二，针对现有的基于Alamouti码的放大转发协作协议(AF-DSTC)频谱效率较低的问题，提出了一种新的基于Alamouti码的高效选择性放大转发协作协议(SAF-DSTC)，将协作过程从原来的四个时隙缩短至三个时隙，频谱效率由1/2提高到了2/3。结果表明：在保持相同频谱效率情况下，SAF-DSTC在系统所耗功率，中断概率和误比特率方面都优于AF-DSTC。2.基于译码转发(DF)的协作系统采用选择性DF协作时，中继译码可消除重叠衰落信道的影响，并降低误差传播，因此可提高协作系统性能。由于理论分析较易，已有相关研究成果较多，论文主要进一步研究非理想信道估计和机会中继对该系统的性能影响，即：其一，在非理想Nakagami-m信道下，采用矩母函数的方法，推导了M-QAM调制方式下多中继DF协作系统的近似SER表达式以及高SNR下的渐进SER解析式，基于此渐进解析式，将最小化SER的功率分配转化为典型的凸优化问题，得出SER最小准则下的最优功率分配。结果表明：信道估计误差存在时，最优功率分配能显著提高中低SNR下的协作系统SER，但不能改善高SNR下的错误平层。其二，机会中继是为提高传统多中继系统频谱效率而提出的，为了完善关于机会中继系统的性能分析，推导了统计独立但不同分布的Nakagami-m信道下，机会DF协作系统的平均SER和中断概率的表达式。3.基于移动中继辅助的双移动(M2M)系统移动中继辅助通信是未来移动蜂窝网、Ad Hoc网以及机车间通信等的一种典型应用场景，由于适用的信道模型不同，目前，这方面理论分析还比较匮乏。论文主要基于移动端对移动端(M2M)信道衰落服从重叠Nakagami-m分布的假设，研究M-PSK调制下移动AF及DF中继对M2M系统的性能影响。利用矩母函数方法，推导了移动中继辅助的M2M通信系统的SER性能表达式，并结合近似概率密度(PDF)的方法，给出了更为逼近的AF辅助的M2M系统的近似SER表达式。结果表明了理论表达式的准确性以及近似PDF方法的紧致性。