无线通信技术的高速发展，使得人们对无线通信系统提出了更高的要求以承载高速率高质量的无线通信业务。这势必对通信系统的抗衰落性能造成极大的挑战，而无线协作通信系统利用虚拟MIMO的思想构建虚拟天线阵列有效克服了信道衰落的影响，且无需改变现有网络架构，仅需在上层通信协议上稍加修改即可付诸实践，在显著改善系统性能的同时还解决了MIMO系统在小型移动终端上安装多天线的困难。协作通信系统的基本思想在于多个用户彼此共享天线以获得分集增益，在此过程中，用户如何从备选中继集合中选择一个或几个协作中继节点来进行协作成为一个至关重要的问题。因此，本文针对协作通信系统中的中继选择问题进行了探索与研究，在最优放大因子的基础上提出了几种中继选择算法，并对所提算法进行理论分析与仿真验证。本文首先提出了采用全双工中继中的最优放大因子的中继选择算法，该算法采用开关门限的方式在最优放大因子与边界放大因子之间进行切换，以获得更好的系统性能，同时还节省了中继的放大功率，最后通过数学分析与仿真验证证明了该算法在中断概率、中继加权因子以及目的节点接收信干噪比方面的优势。然后，在最优放大因子的基础上，本文提出了三种中继选择方案，分别为采用最优放大因子的改进型单中继选择方案，采用最优放大因子的公平的单中继选择技术，以及功率有效的分布式多中继选择技术。这三种中继选择算法各有优劣，能适用于不同的通信场景。本文所提出的四种中继选择算法均在一定程度上克服了全双工中继中的自干扰问题，在提升一定系统性能的同时能有效节省节点的功率消耗，延长节点寿命。