根据计算,到2020年中国国际移动通信频谱需求总量将达到1350～1810 MHz。截止到2014年底,中国为国际移动通信系统规划的频率总计达到687 MHz,还存在至少663 MHz的需求缺口。因此,通过引进新技术来提高频谱效率进而提高用户数据速率成为未来移动通信系统研究的一个重要方向。为了提高频谱效率,人们提出了全双工系统,相比半双工,理论上全双工可以使频谱效率提升一倍。全双工系统面临的主要挑战是自干扰信号问题。当前,学术界和产业界已经形成共识——在致力于实现全双工通信系统的过程中,自干扰抑制/消除将扮演最重要的角色。作为5G关键备选技术之一,大规模MIMO技术可以成倍地提升系统容量,最大限度地利用已有站址和频谱资源。而且,利用大规模MIMO系统中的大量空间域自由度,可以有效消除各种干扰。本文结合大规模MIMO技术对抗信号干扰的优良特性,充分利用其提供的空间域自由度,着力解决全双工中继自干扰这一技术瓶颈问题。本文采用理论分析的方法,研究了莱斯衰落环境中基于预编码的全双工大规模MIMO中继自干扰消除方法。其主要特征在于,中继基站处无需采用主动自干扰消除技术,不需要估计自干扰信道的信道状态信息。本文主要创新性工作如下:1)理论证明了在莱斯衰落环境中,当中继基站的接收和发射阵列天线数趋向于无穷时,在中继端采用迫零或者最大比合并/最大比发射处理,可以完全消除全双工中继自干扰。数值结果表明,联合被动自干扰抑制技术,例如收发天线分离、天线定向分离、吸波材料屏蔽和天线交叉极化,在收发阵列天线数有限的中继基站采用迫零处理,可以有效消除自干扰。2)在中继采用迫零预编码的条件下,推导得出了端到端的近似可达速率闭式解,为深入分析整个系统的性能奠定了基础。3)研究了全双工大规模MIMO系统的功率缩减规律。当中继基站发射和接收阵列的天线数量足够大时,与天线数量相适应地,每个源节点和中继基站的发射功率可以成比例降低。瑞利信道可看作莱斯信道的一种特例,本文针对莱斯信道的理论分析结果涵盖了瑞利信道的情况。最后,通过仿真验证了理论分析结果。