毫米波具有丰富的频谱资源可大大缓解频谱资源紧张的压力,满足未来5G中多媒体等业务对于速率,延时等的要求,因而成为了5G NR规范中的首选的物理层技术。但由于毫米波强衰落的特性,其大带宽的优势需要借助波束成形架构才能得以展现,而基于数模混合结构的毫米波系统会受到移相器的硬件约束、天线发送功率等的限制,这使得混合波束成形算法的目标函数成为了一个非凸优化问题,而该问题难以通过传统最优化理论来求解。另外,混合波束成形算法的性能还会受到不完整信道状态信息,不完美硬件等的影响,环境自适应能力差,难以在多种通信场景下保持较好的性能。特别的,由于毫米波信道的稀疏性,其信道中包含的可用路径较少,如果传输遇到干扰,这对其抗干扰能力也是一个重大挑战。本文以大规模MIMO毫米波系统的抗干扰传输为研究内容,以实现低复杂度、高性能的智能波束成形算法为研究切入点,提出了基于神经网络的混合波束成形算法。所提算法可根据信道特点自主选择正交传输和欠秩信道下的抗干扰传输,解决了波束成形算法设计中的非凸优化问题,实现了优于传统波束成形算法的性能。另外,本文针对神经网络训练迭代过久的问题提出了学习率自适应算法可有效提高神经网络训练的效率,缩短训练时间,最后从不完整信道和低分辨率的移向器证明了该算法的鲁棒性,这对于混合波束成形系统性能的提高具有重要意义。相比于传统的混合波束成形算法,本文提出的基于神经网络的混合波束成形预编码算法具有如下创新点:1)该波束成形架构以神经网络来代替波束成形矩阵,可在信道不过载时(即数据流数小于信道矩阵的秩)采用正交传输模式,在欠秩信道(即数据流大于信道矩阵的秩)下传输时,可有效降低多个数据流之间的干扰,实现了抗干扰欠秩传输,并可提供了优于传统混合波束成形算法的误码率性能。2)该波束成形架构可有效抵抗信道估计带来的误差和非理想硬件等带来的干扰。由于神经网络对数据的微小误差并不敏感,该架构通过借助神经网络的数据拟合能力来弥补信道估计的误差以及非理想硬件带来的缺陷,因而使得系统具有很强的抗干扰能力和鲁棒性。3)该架构可基于学习率自适应算法来有效避免神经网络训练需要大量迭代,训练时间过久等问题,实现了神经网络网络在训练过程中最优学习率的自动调整,可有效提高神经网络的训练效率,在缩短神经网络的训练时间的同时仍可提供优于传统波束成形算法的性能。这使得该架构可匹配信道的变化,在变化的信道下仍然可以保持一定的性能优势。综上,本文提出的基于神经网络的波束成形预编码算法不仅可在信道不过载时进行正交传输,还可降低欠秩信道下数据流之间的干扰,实现信道欠秩传输。除此之外,该架构还可以有效抵抗信道估计误差、不理想硬件等多种通信场景下的干扰。因此,该架构可借助神经网络来抵抗通信场景中的各种干扰,保持一定的通信性能优势,因而具有很强的抗干扰性和灵活可靠性。