毫米波大规模MIMO技术兼具毫米波频段频谱资源丰富以及大规模MIMO高阵列增益的优势,是满足5G大容量传输需求的重要支撑技术之一。考虑到当前毫米波频段的器件成本和功耗,在毫米波大规模MIMO系统中,通常采用模拟和数字域相结合的混合预编码技术来减少射频链路数目,大幅降低系统成本和功耗。混合预编码方案的实现需要设计相应的RF链路-天线连接方式,而现有研究多是基于固定的全连接或部分连接结构,对于动态子阵列的研究也是在非重叠的部分连接框架下开展。本文分别从提升频谱效率和能量效率角度出发,依据长期信道特性,提出了面向毫米波大规模MIMO的可重叠动态RF链路-天线连接结构,并给出了对应的预编码设计方法。论文的主要贡献综述如下:针对部分连接结构固定所带来的混合预编码频谱性能受限的问题,在每个RF链路都连接相同天线数的条件下,以最大化频谱效率为目标,提出了一种基于SIC分层的动态部分连接结构及混合预编码算法。首先,通过SIC迭代消除RF链路之间的影响,得到每个RF链路对应的频谱效率最优的连接天线集合及最优预编码矩阵,其中各个RF链路连接的天线集合之间可存在重叠;在此基础上,考虑模拟预编码矩阵的恒模限制条件,将最优预编码分解为模拟预编码和数字预编码。仿真结果表明,在信噪比为0d B时,所提方案的频谱效率比经典的固定部分连接结构高19.86%,比现有的非重叠动态子阵列结构高12.15%。在上述可重叠动态RF链路-天线连接结构中,由于每个RF链路连接相同天线数会带来能效性能受限的问题,提出了以提升系统能量效率为目标的连接结构及混合预编码算法。首先,从研究单个RF链路下RF链路-天线连接结构入手,采用传统MIMO中的天线选择方法选择能效最优的连接天线集合;接着,将其扩展到多个RF链路,基于SIC分层得到全局次优的RF链路-天线连接结构;最后,考虑模拟预编码矩阵的恒模限制条件,将最优预编码分解为模拟预编码和数字预编码。仿真结果表明,当信噪比为0d B时,所提方案的能量效率比全连接结构高54.62%,比部分连接结构高19.03%。