随着用户需求的不断提高,未来移动通信要向更快的速度,更好的性能,更广泛的覆盖率,更高的网络负载均衡等改进。中继技术拥有增加通信覆盖率,提高小区边缘用户的通信速率等优势,现今已成为无线通信系统研究中的重要技术。中继分为单向中继和双向中继,双向中继相对于单向中继提高了信息传输效率和频谱效率,但是已有研究中半双工中继居多。相对于直接传输,半双工中继的信息传输则需要消耗双倍的资源。为了进一步提高中继传输系统的频谱利用率,全双工中继传输开始得到学术界和产业界的关注。在理想情况下,全双工中继达到的频谱利用率为半双工的二倍,但是在实际中由于中继节点的全双工工作,在中继的接收端,会引进一个自干扰问题。虽然现今许多自干扰消除技术可以达到很好的效果,但是仍会有一定的残余即残余自干扰(RSI),这样势必会影响其通信系统的频谱效率。并且信号经过中继的转发也势必会有一定的处理时间,相对于信源到信宿的直连链路会有一定的延时,这些实际通信中的限制,都会严重影响到中继传输的质量。除此之外,直连链路直接传输的信号经常被忽略或者被当作干扰,在直连链路相对比较强的状态下,已经不再适用。所有如何有效的利用直连链路传输的信号,也成为中继技术研究中的一个热点。论文首先研究了在全双工双向中继通信系统模型下,中继采用放大转发(AF)协议,利用直连链路和残余自干扰,研究其系统性能分析。和现有的全双工双向中继的研究不同的是,该课题提出的方案是利用直连链路传输的信号而不是将其忽略或当做干扰。基于这种方案,推导出了系统速率的闭式解。然后,研究了系统功率分配和联合功率控制下的优化问题,将此凹的优化问题转化成凸的优化问题并结合二分法,得到最优的功率分配。最后,通过大量的仿真分析,验证了理论推导的正确性及功率分配带来的优势,同时也反映了直连链路和残余自干扰对该系统的综合影响。其次,论文研究了在全双工中继通信系统模型下,中继采用选择性解码转发协议(SDF),利用直连链路和残余自干扰,研究其系统的性能分析和中继最优位置分配。基于直连链路和更加实际的残余自干扰模型,推导出了中继转发时延大于1时的中断概率的闭式解。然后,将中断概率作为优化的目标并建立了优化方程,找出了最佳的中继位置。根据理论分析,可以很明显的看到直连链路和残余自干扰对系统的综合影响,即当直连链路强度增加或残余自干扰增加时,最优的中继位置会向信源移动。最后,大量的仿真分析很直观的验证了理论分析的正确性和系统的性能优势。最后,在第二部分研究内容的基础上,考虑相同的系统模型,推导出了信源节点和中继节点功率不同情况下的系统中断概率,接着使得中断概率最小又考虑了功率分配的问题。后续又用仿真验证了最优功率分配方案的存在性和优势,直观的反应了功率分配提高了系统的性能。