随着智能终端设备的普及和数据密集型移动新业务的飞速增长,第五代(5th Generation,5G)移动通信系统面临着提升系统容量和用户速率的巨大挑战。大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)技术作为5G移动通信系统中最具有前景的关键候选技术之一,能够有效地提升无线通信系统的频谱效率、能量效率与信号传输的可靠性。针对大规模MIMO系统,本论文的主要研究工作以及所做贡献总结如下:第一,本论文主要研究了大规模MIMO相关理论与技术要点,调研并总结了多小区、多用户大规模MIMO系统中的干扰消除方法以及导频污染消除方法,为复杂干扰场景下交叉干扰消除问题研究以及大规模MIMO系统中导频污染消除问题研究提供了理论基础。第二,针对多小区、多用户大规模MIMO系统中的交叉干扰消除问题,本论文提出了基于联合用户调度与收发机设计的交叉干扰消除方法。通过对交叉干扰特性的分析,设计用户调度约束因子用来限制调度受到严重交叉干扰的下行边缘用户,减少了用户到用户的干扰;针对严重的基站到基站干扰,运用矩阵奇异值分解将大维度的基站到基站信道矩阵分解为若干个干扰子信道向量并设计分配策略将这些干扰子信道向量分别交由上行基站和下行基站处理。由系统仿真结果可知,上行小区用户的可达速率获得了提升。第三,针对多小区、多用户大规模MIMO系统中的导频污染消除问题,本论文结合混合波束成形技术,提出了基于模拟波束水平方位角的启发式导频分配方法。在此基础上,考虑用户公平性,提出了基于用户分组的导频分配方法,来提高小区边缘用户的性能。由系统仿真结果可知,本论文所提出的启发式导频分配方法和基于用户分组的导频分配方法能有效地减少导频污染,提升了大规模MIMO系统的频谱效率和系统容量。