随着通信技术的飞速发展,传统的多输入多输出系统(Multi Input Multi Output,MIMO)技术已经不能满足日常通信需求。与传统MIMO技术不同,3D MIMO技术通过在基站处配置二维有源天线阵列,在水平维度的基础上增加了垂直维度信道信息,丰富了系统空间自由度,提高了系统频谱利用率,因此受到了国内外科研学者的广泛研究。传统2D MIMO预编码只在水平维度上进行,而3D MIMO预编码不仅需要考虑水平维度波束赋形,还需要考虑垂直维度上的波束赋形。通过对发射信号进行3D MIMO预编码,利用垂直维度和水平维度的波束区分不同目标用户,降低波束之间的干扰,使目标用户接收到的信号强度提升。但现有的3D MIMO预编码往往存在计算复杂度较高,系统频谱效率差等缺点。针对这一问题,本文考虑利用矩阵的Kronecker积性质和JSDM分层编码技术设计新的3D MIMO预编码算法。首先,本文介绍了有源天线阵列的概念,并对几种常见的天线阵列排布方式进行分析。接着对传统2D MIMO信道模型和3D MIMO信道模型进行介绍,并比较了两者的区别。其次对几种经典的3D MIMO预编码进行了详细推导,并比较了它们的优缺点。然后,在此基础上,提出了一种基于区域划分的分层预编码算法。该算法首先对用户进行分组,然后对分组后的用户进行分层预编码。根据3D MIMO信道Kronecker积结构,将第一层预编码分成水平维和垂直维,由Kronecker积的性质,只在垂直维度进行组间干扰消除即可。针对组内用户干扰,第二层预编码采用迫零准则进行处理。由于分层预编码只需要信道的统计状态信息,而不用考虑瞬时信道状态信息,因此能降低导频训练开销。最后,为了提高3D MIMO的系统容量,基于分组后的用户信道传输矩阵,提出另一种低复杂度的两级预编码算法。基于最大SLNR准则设计第一级预编码,抑制组间干扰;第二级预编码的设计目的是消除组内干扰,可采用ZF预编码来处理。仿真结果表明,与BD-ZF预编码方案相比,所提出算法能获得更好的性能。