新一代移动通信要求满足更高的传输速率、更大的连接密度、更快的移动特性，对未来无线通信系统的部署带来巨大挑战。协作中继技术利用无线通信的广播特性，多个用户之间相互协作或者使用专用的中继台，构成一个虚拟的分布式天线阵列，获得多入多出(MIMO)多天线特性。协作通信网络具有提升频谱效率、增大信号覆盖面和节省无线资源等诸多优势，因而备受关注。高效的中继传输技术如中继选择、天线选择等，不但能降低系统功率消耗和信号处理的复杂度，还能带来显著的性能改善。本文提出了几种协作中继选择方案，分析了完备信道状态信息(CSI)和非完备CSI对不同方案的影响，并得到了一些闭合表达式和近似表达式，对系统传输方案设计以及资源分配参数优化具有理论指导意义。
　　首先，针对两用户多中继的协作非正交多址接入(NOMA)网络，提出了两种采用空时码技术的双中继选择方案。一种是固定功率分配的双中继选择(FPA-DRS)方案，即整个传输过程中，用户1和用户2的功率分配因子，在源和中继端保持不变。另一种是动态功率分配的双中继选择(DPA-DRS)方案，可根据当前的信道状态自适应地调节两用户的功率分配参数，从而进一步提升系统性能。分别得到了两种中继选择方案的中断概率表达式以及高信噪比时的近似表达式。研究结果表明，这两种中继选择方案均优于现有的协作NOMA中继选择方案，在保证与现有中继选择方案实现相同分集增益和相同频谱效率的基础上，有效地减小了中断概率，提高传输可靠性。
　　其次，从功率分配角度考虑，提出了一种基于动态功率分配的全双工(FD)中继选择(FD-DPA-RS)方案，自适应调节每跳传输链路的功率分配因子取值。研究结果表明，相比于现有的基于固定功率分配因子的FD中继选择(FD-FPA-RS)方案，所提的FD-DPA-RS方案中断性能得到了显著提升，但是由于剩余自干扰的存在，其分集增益为零。从中继工作模式考虑，提出了一种基于固定功率分配因子的自适应双工(AD)中继选择(AD-FPA-RS)方案，解决FD-FPA-RS零分集增益的问题，中继根据当前信道状态和译码结果自适应切换到FD或半双工(HD)工作模式。研究结果表明，AD-FPA-RS方案不但在中断性能上优于FD-FPA-RS和HD-FPA-RS方案，而且还能够获得满分集增益，其频谱效率相比于HD模式也有一定的提升。
　　再次，分析了非完备信道状态信息(CSI)对协作NOMA网络中继选择技术的影响，并提出了一种有效的优化方案以降低非完备信道带来的系统性能损失。首先，基于最小均方误差(MMSE)信道估计错误模型，分析了信道估计误差对协作NOMA中继选择系统的影响，并获得了中断概率的闭合表达式。研究表明，非完备CSI使得系统中断性能降低。为了降低非完备CSI的负增益，提出了一种基于非完备CSI的动态功率分配准则，中继可以根据当前的信道状态和信道估计误差自适应调节功率分配因子取值，选取最优的功率分配因子来提高信息传输的可靠性，进而获得了该方案下的系统中断概率的表达式。分析结果表明，基于非完备CSI的动态功率分配方案能有效降低非完备信道产生的性能损失。
　　最后，分析了移动速度和传播路径损耗对高铁移动中继天线选择的性能影响。高速铁路(HSR)网络中，列车移动速度快，高移动性产生较大的多普勒频移使得通信信道变化快速，因而获得精确的快时变信道估计比较困难。推导了信道估计误差与列车移动速度和传输路径损耗的关系，从而得到非完备信道估计时系统中断概率、误符号率以及遍历容量等性能的闭合表达式。接着，针对多用户分布式天线系统，提出一种基于MMSE最小最优收发器的预编码设计。在不同约束条件：总功率受限和单个分布式天线单元(DAU)功率受限，进行了分析，并得到了最优解的闭合表达式。