近年来,大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)技术因其能够充分挖掘利用空间资源,提高系统频谱利用率及能量效率而受到业界广泛的关注。然而,大规模MIMO系统的应用面临诸多挑战,其中之一就是实际部署问题。由于基站所能配置的天线数受到基站空间以及载波频率的限制,为克服有限的空间对大规模MIMO无线通信系统的限制,并进一步挖掘利用垂直维度空间资源,将天线部署在二维区域的全维MIMO(Full-Dimension MIMO,FD-MIMO)或三维MIMO(Three-Dimension MIMO,3D-MIMO)技术成为研究热点。大规模MIMO系统所面临的另一个挑战是基站端信道状态信息(Channel State Information,CSI)的获取,尤其当应用于中高速移动通信场景及频分双工(Frequency-Division-Duplex,FDD)模式。克服这一困难的一个有效方法是利用信道的二阶统计CSI。因此,本文针对在基站端部署二维均匀平面天线阵的FD-MIMO通信系统,开展利用统计信道状态信息的下行自适应传输及干扰协调策略的研究。首先,针对单小区FD-MIMO系统,利用FD-MIMO信道统计模型及其新特性,实现了下行自适应传输及用户调度方法。充分利用FD-MIMO系统水平及垂直方向的二阶统计信道状态信息,在用户平均信漏噪比(Signal-to-Leakage-and-Noise Ratio,SLNR)下界最大化的准则下,实现了一种具有低复杂度的三维(Three-Dimensional,3D)波束成形下行传输方法。仿真实验结果表明,在信道瞬时CSI质量较差时,仅利用统计CSI的3D波束成形下行传输方法同传统的匹配滤波(Matched Filter,MF)以及迫零(Zero-Forcing,ZF)预编码方法相比更具鲁棒性,所需要的信道反馈开销相对较少。其次,针对FD-MIMO蜂窝与D2D(Device-to-Device,D2D)通信混合网络系统,研究下行传输方案和网络间干扰协调策略。首先,针对层间干扰,基于前述FD-MIMO下行通信系统的3D传输方法,推导出仅与统计CSI相关的蜂窝用户与D2D用户间干扰与信号比的简单近似表达式,由此提出仅利用统计CSI来降低D2D通信网络对蜂窝用户的干扰的协调策略,以及同时利用统计CSI和部分等效CSI进行蜂窝用户对D2D通信对干扰协调的策略。另一方面,针对层内干扰,基于推导得到的D2D通信对间干扰信号比的下界,提出D2D通信对间的干扰协调策略。在所提协调策略中,基站端仅需已知每个用户的统计CSI以及少量用户的降维等效CSI,有效减少了基站端CSI反馈以及系统数据交互开销。仿真结果表明所提出的干扰协调算法在提升系统整体和速率及D2D用户性能上有很好的折中,且在边缘用户性能提升上表现出色。最后,针对多小区FD-MIMO系统,结合分数频率复用(Fractional Frequency Reuse,FFR)与协作传输两种策略的优点,研究多小区FD-MIMO系统下行传输和干扰协调方法。首先,提出一种多小区FD-MIMO系统的FFR框架,利用统计CSI对各小区进行小区中心用户及边缘用户的划分,所有中心用户共享相同频段,边缘用户共享相同频段。进而,基于所提出的FFR框架,提出两种基于信号与干扰比(Signal-to-Interference Ratio,SIR)的联合3D波束成形传输及干扰协调算法:全协作干扰协调算法以及部分协作干扰协调算法,以消除边缘用户的小区间干扰。在全协作干扰协调方法中,所有基站对调度边缘用户进行协作传输,而在部分协作干扰协调方法中,仅满足条件的部分基站提供协作传输服务。在所提协调策略中,基站端仅需已知统计CSI,有效减少了基站端CSI反馈以及系统数据交互开销。仿真结果表明所提出的下行传输方法和干扰协调策略有效提高了边缘用户速率及平均用户速率。