随着移动通信技术的迅猛发展,稀缺的频谱资源越来越难以满足人们对更高数据速率和更低时延的需求。全双工技术通过在同一频率资源内同时发送和接收信号,理论情况下可以获得双倍频谱效率,进而缓解频谱资源紧张的现状。全双工技术的双倍频谱效率特点使双向中继成为其最理想应用场景。此外,多用户多输入多输出(MIMO,multiple-input multiple-output)技术通过利用空间复用增益能大幅度提高频谱利用率。而大规模天线阵列通过利用很大数量的天线,比如几百甚至上千根的天线,可以提供比传统多天线技术大很多的分集增益、波束赋形增益和空间复用增益,进而可以极大的改善系统的频谱效率和能量效率。在本论文中,为了最大效率利用频谱资源,我们率先提出将大规模MIMO技术应用在全双工双向中继系统并研究其性能。针对全双工自干扰,本论文考虑实施传统自干扰消除技术之后的残留自干扰。由于系统性能主要受限于全双工残留自干扰和双向中继通信造成的各项干扰。因此,本论文主要研究大规模天线对系统中各项干扰的抑制能力,并且分析系统的频谱效率和能量效率性能,以及通过导频设计和功率控制等进一步优化系统性能。本论文的主要成果包括:1.大规模MIMO针对全双工残留自干扰的相对抑制作用分析考虑完美信道状态信息,在中继天线数趋向于无穷大时,本论文分析了大规模天线对全双工残留自干扰的相对抑制能力,提出并研究了各种功率降低方案对系统性能的影响。系统模型建模为一对全双工用户利用大规模天线全双工中继相互交换信息。中继采用放大转发协议,并利用最大比合并最大比发送线性信号处理技术接收和发送信号。本论文提出了多种特定的功率降低方案,使节点发送功率随天线数的增大而降低。基于提出的功率降低方案,推导了系统渐近频谱效率。证明了增大中继天线数可以获得很大的阵列增益,从而可以相对降低全双工残留自干扰在用户端的影响。此外,我们证明了也可以通过随天线数增大适当降低节点发送功率去降低该干扰的影响。并且,适当降低节点发送功率时,频谱效率损失较小,从而能量效率得到提升。进而,针对更一般性的功率降低方案,我们总结了功率降低指数因子对系统性能的影响。2.基于大规模MIMO的全双工双向中继系统的频谱、能量效率等性能分析针对多对用户全双工双向大规模天线中继系统,在完美信道状态信息下,当中继天线数趋向于无穷大时,本论文研究了系统的频谱效率和能量效率性能,并分析了大规模MIMO对邻近用户干扰和其他用户对干扰的抑制作用。考虑放大转发协议中继,并分别采用最大比合并最大比发送和迫零接收迫零发送等线性信号处理技术。为改善能量效率,提出四种典型的节点功率降低方案,并据此推导了当天线数无穷大时系统的频谱效率和能量效率。进一步证明了用户端由于全双工节点造成的残留自干扰可以通过随天线数增加适当降低节点发送功率来消除。此外,证明了由于双向通信和多对用户造成的邻近用户干扰和其他用户对干扰也可以通过增加中继天线数来消除。接着,比较了最大比合并最大比发送和迫零接收迫零发送技术的渐近频谱效率性能,并分析了用户对数对系统频谱效率的影响。基于实际的功率损耗模型,我们评估了系统的能量效率,还研究了中继天线数对不同功率降低方案的系统能量效率的影响。证明了所提出的功率降低方案可以在频谱效率和能量效率之间取得较好折衷。最后,分析比较了全双工模式和半双工模式的性能,并给出了全双工模式优于半双工模式的针对残留自干扰水平的可达区域。3.基于大规模MIMO的全双工双向中继系统的性能优化针对多对用户全双工双向大规模MIMO中继系统,考虑非完美信道状态信息,在中继天线数有限的情况下,我们利用统计信道状态信息推导出了系统遍历和速率闭合表达式。为了改善系统性能,本论文提出了一种新型导频发送方案,证明可以在信道相干时间较小时极大的提升系统性能。此外,我们还针对功率控制进一步优化了系统性能。具体地,中继采用放大转发协议,并利用最大比合并最大比发送线性信号处理技术。论文利用统计信道状态信息,基于传统的正交导频发送方案和最小二乘信道估计算法,推导了中继天线数很大时系统遍历和速率的近似表达式,并证明了该近似是一个紧性近似。论文接着提出了一种新型导频发送方案用来估计每个用户对的复合信道信息,旨在降低导频开销,并基于新型导频发送方案推导了和速率近似表达式。通过比较两种导频发送方案的和速率,给出了一种方案优于另一种方案的充分条件。此外,分别基于和速率最大化和最大最小公平设计准则,论文提出了针对用户和中继的功率分配算法。最后,通过仿真分析,证明了当中继天线数很大时,该系统在系统和速率方面优于相应的单向全双工中继方案和双向半双工中继方案。