在协作通信系统中,协作中继技术的使用可以帮助源节点转发数据,从而获得额外的分集增益、更大的系统容量和更有效的传输性能,因而受到协作通信领域的学者们的广泛研究。其中,如何根据瞬时信道状态信息(Channel State Information,CSI)以及提高能效和信号接收信噪比(Signal-to-Noise Ratio,SNR)的前提下,从候选中继集合中选出合适的中继参与信息转发同时为各个节点分配合适的功率,成为协作通信领域关注的重要内容。本文根据协作通信系统的资源条件以及性能指标,分别就单源和多源情况下的中继选择方案进行研究。首先,针对系统中源到中继以及中继到目的节点的两段瞬时CSI影响系统平均误符号率(Symbol Error Rate,SER)的问题,提出一种单源情况下基于瞬时CSI的自适应中继选择方案。当直传链路无法提供可靠传输时,该方案选择两段综合CSI最佳的中继进行协作传输。并且为了进一步保证传输的可靠性,中继能自适应地选择解码转发或者解码放大转发策略,从而降低了系统的平均SER。接着,区别于当前大多采用精确SNR公式进行中继选择研究的情况,本文提出一种近似高SNR条件下的基于能效的中继选择和功率分配方案。该方案采用简单的近似高SNR公式,以能效最大化为准则推导出中继选择和功率分配的表达式,同时还重新设计了两跳中继系统中能量效率和频谱效率间的折中方法。最后,研究多源中继选择方案。区别于当前大多研究只为各个源节点分配一个合适中继的情况,本文提出一种基于混合改进遗传算法的中继选择方案。该方案以最大化各链路的最小接收SNR为准则,建立了多源中继选择的系统模型,并根据模型提出了一种混合改进遗传算法用以为每个源节点快速分配若干个合适的中继,从而提高系统的接收SNR性能。