协作中继通信技术利用了空间分集的原理,能够有效对抗信道衰落、提高传输可靠性,另外还具有布局灵活、成本低等众多优点,成为当前以及未来移动通信系统中的一项重要方案。传统的联合多中继传输系统虽然能提高系统分集增益,却加大了频谱和功率开销。中继选择技术通过在中继节点集合中选择一个或者一组信道条件较好的节点参与协助,可以避免处于较差信道环境的中继节点转发信号而造成的功率浪费、信令交互,在保证系统性能的情况下降低系统开销。另外,全双工中继技术能够克服半双工中继所造成的频谱浪费,将其引入中继选择系统能进一步提升系统性能。但是全双工中继系统也面临着中继收发天线间的信号泄露问题,而在实际系统中,现有技术并不能完全消除这部分自干扰信号的影响。另一方面,中继选择的性能会受到实际环境中非理想信道信息的严重影响。因此,研究这些非理想因素对中继选择的影响以及设计相应的中继选择策略是十分有意义的。针对放大转发多中继选择系统,本文考虑了各中继对应的信道相互独立、却不同分布(均值、方差等不同)的场景下,信道反馈时延对基于部分信道信息的中继选择系统的影响,提出了一种新的中继选择策略。首先分析了采用部分信道信息最优的多中继选择系统的性能,给出了系统的端到端信噪比表达式,并推导了各跳链路的信噪比的概率密度函数；然后分析了系统的中断概率性能,为了克服信道反馈时延对系统性能的影响,提出了一种基于条件中断概率最优的中继选择算法。该策略在传统的中继选择方案的基础上,进一步利用信道的统计信息,以达到提高系统性能的目的。从仿真结果可以看出,与传统策略相比,本文提出的方案在中断概率和误码率性能上均能获得明显的性能增益,且对信道时延也有较好的鲁棒性。针对全双工多中继选择系统,本文研究了自干扰信号对系统性能的影响,并提出了一种联合功率分配的全双工中继选择方案。本文考虑了一个较为通用的自干扰信号模型,以最大化系统容量为准则,进行功率分配方案的设计,并且得到了功率分配方案在不同自干扰系数下的(近似)闭式表达式。接着,在已获得的功率分配准则下,结合系统端到端信干噪比的表达式,调整了相应的中继选择策略。仿真结果表明,自干扰信号与中继节点发送功率呈正相关时,系统性能受限于自干扰信号,此时采用功率分配方案能有效改善系统性能；而随着中继节点数的增加,全双工中继系统能获得更多的分集增益,在一定程度上弥补了自干扰信号的影响,即使不采用功率分配,也能获得优于半双工中继系统的性能表现。最后,考虑到当自干扰信号太大时,全双工中继系统性能比半双工中继要差,本文基于容量最优的准则,提出了一种混合半双工／全双工模式切换的中继选择方案,能进一步提高系统性能。