随着无线通信技术的飞速发展,移动数据流量正以惊人的速度的增加。这种大量的移动流量极大地加剧了当前频带中的频谱拥塞,因此激发了人们对利用新频谱进行无线通信的浓厚兴趣。在无线通信中,毫米波工作在30GHz至300GHz频段,将毫米波与大规模多输入多输出系统中的混合预编码技术相结合产生的技术方案,被视为新一代移动通信系统的关键技术之一,因其具有丰富的频谱资源,并且能够提高系统频谱效率与能量效率。本文将在毫米波大规模多输入多输出系统中基于低分辨率移相器降低功率消耗基础上,提高系统频谱效率进行研究,主要研究成果如下:1、在毫米波大规模多输入多输出系统中,低精度移相器的模拟预编码算法存在算法复杂度高的问题。为此,提出一种改进的迭代相位混合预编码算法,首先将模拟预编码优化矩阵分解为列向量逐个求解,并采用2阶秩矩阵近似得到次优的优化函数,然后将优化函数转化为求和形式并迭代收敛求得最优相位,以此降低计算复杂度。同时,为了最大化硬件效率,还设计出移相器相位分辨率为1比特的模拟预编码方案。理论分析和仿真结果表明,所提算法具有较低计算复杂度,且其频谱效率更优。2、在毫米波大规模多输入多输出系统中,基于低精度均匀量化移相器的模拟预编码复杂度高,并且能量效率也未得到充分利用。为了有效解决该问题,提出一种非均匀量化下基于卷积神经网络的混合预编码设计。首先通过利用信道传输矩阵中不同波束的权重系数,将原信道重构为波瓣形式的毫米波信道模型,并根据各个波瓣权重系数分配移相器的量化比特,进而构造非均匀量化的模拟预编码码本,并降低功率消耗。然后以此模拟预编码作为相应信道传输系数的标签,构建出神经网络的训练数据集,并根据训练数据集训练预测出模拟预编码,以此降低计算复杂度。最后经过大量的仿真评估表明,所提算法具有较低的功率消耗,且其频谱效率优于传统算法。