随着互联网的快速发展,智能终端设备与应用软件激增,带来的是对无线网络更高速率和更高带宽的需求。为了进一步提升系统性能,业界提出了大规模天线技术。在频分双工系统中,该技术会造成较大的信道估计和反馈的开销,且在数据处理时,矩阵运算的计算量随着矩阵维度增加显著上升。本文考虑利用信道相关特性有效地压缩信道维度,同时消除用户组间干扰,简化整个下行传输的复杂度。在现实场景中,用户智能终端往往呈现相对稳定的地理群聚分布。地理散射条件受限的用户组信道会存在自相关性,本文研究了信道相关性的物理建模和特定模型下信道相关矩阵的特性,以及信道相关性对多天线多用户系统的影响。这些特性是能够对用户信道进行分组、干扰消除和维度压缩处理的基础。本文基于该思想研究了蜂窝网络下行传输的两步预编码方案。其中,外层预编码由分组后的用户信道相关矩阵得到,目的是先利用统计信息来消除组间干扰,降低用户有效信道维度,且使得下行传输能独立成若干子组并行处理;内层预编码再根据降维后瞬时等效信道进行子组的多用户预编码和用户选择。本文通过仿真分析不同情形下的系统和速率与导频开销,验证了该方案能有效的兼顾系统性能和复杂度开销。本文还针对外层预编码中的用户矩阵聚类问题做了进一步研究和补充,提出了一种结合多元信号追踪的聚类方法,且对用户聚类中的离群点和分组值问题做了初步分析。在具体应用上,研究和验证了半正交用户选择和迫零预编码可作为内层用户选择和预编码的方案,完善了整个下行传输过程。此外,本文还扩展到异构网络情景中,分析研究了存在信道相关性的情形下,采用两步预编码,宏、微用户组间干扰和对应组空间位置的关系特性,给出了一种基于空域的干扰管理思路。