大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统因具有较高的频谱效率、能量效率以及鲁棒性，而受到广泛关注。毫米波频段能提供丰富的频谱资源，成为未来通信的备选频段之一。将毫米波引入大规模MIMO系统，可以为大规模MIMO系统提供更大的带宽，提高数据传输速率，同时毫米波较小的波长，可以在有限的空间配置更大规模的天线阵列，显著提高信道容量。在毫米波大规模MIMO系统的研究中，混合预编码能够进一步提高系统的性能，同时减少所需射频链路的数目。因此，本论文围绕毫米波大规模MIMO混合预编码技术，研究多用户毫米波大规模MIMO系统的混合预编码算法。具体研究内容如下：
　　1)针对多用户毫米波大规模MIMO系统的全连接结构设计混合预编码算法。通过将混合预编码问题转化为一个两阶问题来设计模拟域预编码与数字域预编码。第一阶段，以等效信道为优化目标设计模拟域预编码，并证明通过对信道进行奇异值分解(Singular Value Decomposition,SVD)，提取右酉矩阵的相位设计模拟域预编码，能实现等效信道次优化；第二阶段，根据已知的等效信道来设计数字域预编码，抑制用户之间的干扰。仿真实验结果表明，所提出的混合预编码算法，在完美信道与非完美信道条件下都能获得较高的频谱效率。
　　2)综合优化系统的频谱效率与能量效率，提出混合动态连接结构。混合动态连接结构具有多个子阵，且每个子阵中包含多个射频链路并通过全连接方式与子阵中的天线单元相连接，对于子阵的天线单元，通过一定的准则动态的选择。同时，提出基于混合动态连接结构的多用户多流混合预编码算法。该算法通过最大化信干噪比(Signal-to-Interference-plus-Noise Ratio,SINR)的增量来设计混合动态连接结构的模拟域预编码，然后通过已知的等效信道，运用块对角化(Block Diagonalization,BD)抑制多用户多流干扰。仿真结果表明，所提出的混合动态连接结构的频谱效率介于全连接结构的频谱效率与混合固定连接结构的频谱效率之间，但获得的能量效率最高。