无线设备和移动数据流量的空前增长促使了人们对具有更高数据传输速率、频谱和能源效率的下一代无线网络的研究和建设工作,作为一种既能有效利用各种网络资源,又可以提高频谱效率、扩展网络范围的技术,全双工协作通信技术已成为当前的研究热点。在全双工协作模式下,中继节点会受到同时同频的自干扰,而目的节点会接收到同时同频的直达链路信号,本文在同时考虑剩余自干扰和直达链路信号的基础上,分别针对是否采用分集合并技术的全双工协作通信系统的中继选择方法进行研究与分析,具体工作如下:针对无分集合并技术的全双工中继系统,本文在同时考虑剩余自干扰和直达链路干扰信号的基础上,分别对采用解码转发(DF)和放大转发(AF)协议的全双工协作通信系统提出了基于最大化瞬时信道容量的最优中继选择方案,然后对所提方案的系统中断概率进行理论分析,并得出了其闭式表达式。最后通过仿真验证理论分析的正确性,并将所提方案与传统全双工中继选择方案在直达干扰场景下进行了性能对比。仿真结果表明虽然直达链路作为不可选择链路存在,但是考虑直达链路的最优中继选择方案却可以进一步提升系统性能,同时当剩余自干扰信号较小时,直达链路将会成为制约系统性能的另一主要因素。针对存在分集合并技术的全双工中继系统,本文在同时考虑剩余自干扰和直达链路有用信号的基础上,首先对采用DF协议的全双工协作通信系统提出了基于最大化瞬时信道容量的最优中继选择方案,随后对所提方案的系统中断概率进行了理论分析并得出了其闭式表达式。仿真结果验证了理论分析的正确性,并同时表明所提方案在中信噪比区间的中断性能要优于传统全双工DF中继选择方案。对于采用AF协议的全双工协作通信系统,基于最大化瞬时信道容量的最优中继选择方案与传统忽略直达链路的中继选择方案结果一致。进一步仿真分析表明,当剩余自干扰水平较小时,DF协议下所提方案的系统性能优于AF协议下所提方案的系统性能,环路干扰水平较大时则情况反之。