随着社会的发展,现有的频谱资源已远远无法满足广大用户的需求,人们急于寻找新的频谱资源,于是,未来的第五代移动通信技术(5G)研究者们便将目光投向了目前仍未被授权的毫米波频段。5G通信系统利用毫米波频段的超大带宽,并配合大规模MIMO技术带来的高阵列增益,可以实现Gbps的数据传输速率,大规模MIMO技术可以有效地提升系统容量,提高频谱效率,弥补毫米波自身存在的一些譬如路径损耗严重等不足。虽然大规模MIMO技术有众多优势,但在毫米波系统中其数量巨大的天线阵列也会带来高硬件成本、高算法复杂度、高能耗等问题,而混合预编码技术则可以有效地解决这些问题,因此本文对大规模MIMO系统的混合预编码技术进行了研究和分析。通过分析传统全数字预编码技术在毫米波系统中的局限性,提出了适用于毫米波系统的数字模拟混合预编码技术。本文首先介绍了使用毫米波大规模MIMO系统混合预编码的技术背景。其次对传统的MIMO系统以及常用的毫米波大规模MIMO系统结构模型进行了详细的分析,给出了对应的信号传输模型。接着对信道模型进行了分析,给出了完整的适用于毫米波的信道矩阵模型。然后通过介绍奇异值分解(SVD)、几何均值分解等几种常用的矩阵分解方法引出了基于矩阵分解技术的预编码设计方法。先介绍了几种传统的全数字预编码方法,以及基于奇异值分解与正交匹配追踪算法(OMP)的数字模拟混合预编码方法。因为基于奇异值分解的预编码技术会把信道分解为几个增益相差很大的子信道,因此提出了一种基于几何均值分解的混合预编码方法,有效解决了这个问题。仿真分析结果表明,和基于SVD与OMP的预编码方法相比,该方法无论是在频谱效率,还是在误码率等方面性能都要更优。文章最后介绍了存在干扰情况下系统的预编码设计方法,包括传统全数字的以及几种常用的混合预编码矩阵设计方法,并提出了一种新的混合预编码设计方法,对它们进行了仿真分析和比较。