为了满足不断增长的无线通信数据传输需求,毫米波以其充沛的频谱资源和更大的通信带宽成为了目前通信技术研究的主要课题。为了补偿毫米波频段的高路径损耗,研究者出通过在基站端和用户端配置大规模天线阵列,以供高波束增益和空间复用增益。为了升通信系统的能量效率,基站端根据信道估计信息设计预编码方案,从而将信号更有指向性的发送给用户,减少能量损失。但是由于大规模天线阵列的部署,毫米波信道估计的复杂度大幅升,基于低频段与毫米波频段的空间相似性,研究者出利用低频信息恢复毫米波的空间信息,从而加快信道估计的过程。相比于全数字预编码的高成本,混合预编码能够在对幅度和相位进行控制的同时,减少硬件开销,以合理的成本实现较高性能。本文针对下行多用户大MIMO毫米波混合预编码系统,出了低频辅助的预编码设计方案。在大多数研究混合预编码架构的工作中,研究者们选择在模拟域中搁置多用户干扰问题,而在数字域中解决。本文出了低频辅助的毫米波大MIMO模拟预编码和增强鲁棒性的模拟预编码设计方案,可以在模拟域中有效抑制多用户干扰并且优化波束赋形增益。利用加权和算法解决波束赋形增益和多用户干扰的多目标优化问题,并且使用半正定规划算法处理优化过程中的非凸约束问题。仿真结果表明,本文出的模拟预编码方法的性能优于传统模拟预编码方法。并且在具有角度估计误差的情况下,与波束选择方法相比,本文出的增强鲁棒性的模拟预编码方法将和速率高了110%。目前已经有对低频辅助的单用户毫米波波束选择的研究,本文将其扩展,研究多用户场景下的基于波束选择的低频辅助混合预编码设计。在数字域部分应用迫零算法以消除多用户干扰,模拟域通过基于码本的波束搜索选择使系统容量最大的波束集。在利用低频信息进行波束选择的基础上,出了5种低频辅助的波束选择方法:根据低频信息得到最优低频波束集,而后对包含在低频波束宽度内的毫米波波束进行训练,得到毫米波系统的最优波束集。仿真结果表明,与仅带内波束选择相比,低频辅助的波束选择方法可以大大降低训练开销,加速毫米波波束选择的过程,并且可以供良好的性能。