现在4G蜂窝技术已经开始广泛的部署在世界各地,而第五代(5G)移动无线通信技术成为了新兴的研究领域。大规模MIMO的应用成为5G技术的一个热门领域,跟传统的MIMO技术相比,大规模MIMO可以在基站使用更多的天线,并且在终端共享更多的吞吐增益。但是由于基站数量巨大的低功率小天线的存在,需要反馈的信道状态信息(CSI)量很大,预编码算法的选择将很大程度的影响系统性能。RBF作为一种需求CSI较少的预编码方案在大规模MIMO中具有很大的潜力。在单蜂窝小区内,随机波束赋形(RBF)已经得到广泛的研究,本文首先通过建立模型分析了RBF具有较好的利用空分增益,服务大量用户,对CSI反馈量的需求低,系统实现复杂度较低的优点。之后本文通过仿真来比较不同发射波束数对RBF性能的影响,得到在不同信道环境下,基站合理选择发射波束数可使系统性能得到很大提升。本文还提出多波束选择(MBS)算法,其核心思想是通过合理分配功率来提高能量利用效率,最大限度提升系统性能。本文还给出了RBF的推广形式PU2RC与ZFBF之间的比较,在无法获得完整CSI的多用户MIMO场景中,PU2RC只需要反馈每个用户的SINR和其对应每个波束的索引值,实现复杂度低,并具有较好的性能,但是随着用户数减少,PU2RC的性能会急剧下降。之后本文深入介绍了RBF算法在多蜂窝小区MIMO系统中的建模,基站采用RBF预编码算法,接收机分别设置为最小均方误差算法(MMSE)、迫零算法(ZF),和天线选择算法(AS)的机制,通过设计这三种不同的用户接收机来降低小区内和小区间的干扰;最后通过仿真得到MMSE空分接收机性能最好,但是复杂度最高;ZF次之,实现起来也较容易;而AS的性能最差,也最容易实现,文中给出多种算法验证该结论。本文最后分析了大规模MIMO场景中预编码的应用,比较了迫零(ZF)预编码算法和匹配滤波器(MF)预编码算法在边缘小区用户和中心小区用户可以达到的性能。在研究RBF在大规模MIMO中应用时,通过K-Means聚类算法和K-Medoids聚类算法来对小区用户进行分组,并通过仿真验证,两种聚类算法算法复杂度相近,但是K-Medoids算法可实现的性能要优于K-Means算法。