作为5G的关键技术,毫米波大规模多输入多输出（Multiple-Input Multiple-Output,MIMO）能够在发挥毫米波通信技术和大规模MIMO技术的各自优势的基础上,解决毫米波通信路径损耗严重的难题,且使得大规模MIMO能够在有限的空间内部署更多的天线。高效、准确的信道估计算法是毫米波大规模MIMO系统设计的基础。然而,在毫米波大规模MIMO系统中,随着信道维度的增加,噪声对信道估计性能的影响将不可忽视,因此如何在分析噪声影响的基础上,去除噪声以降低估计误差,是提升信道估计可靠性所面临的难题。此外,毫米波大规模MIMO系统在基站端配备了巨大数量的天线,若射频链与天线的数量一致,必将造成高硬件成本和高功耗。由于毫米波频率只存在有限的散射,信道矩阵具有低秩性,可通过选择少量的主波束以减少射频链数量。但在波束域毫米波大规模MIMO系统中,当天线阵列较大而使用的射频链的数量有限时,如何实现低复杂度高可靠性信道估计是亟需解决的难题。深度学习算法凭借着其具有强大的特征提取能力、高效的数据挖掘能力等优势,为信道估计算法降低计算复杂度、提高可靠性提供了新的思路。因此本文将深度学习算法应用于毫米波大规模MIMO信道估计,具体研究内容如下:1.波束域毫米波大规模MIMO系统中,在分析噪声对信道估计性能影响的基础上,提取噪声特征,提出基于噪声特征去噪网络（Noise Feature Denoising Network,NFDNet）的信道估计算法。基本原理是将接收信号与其经过卷积层和池化层提取的噪声特征共同作为去噪卷积神经网络（Denoising Convolutional Neural Network,Dn CNN）的输入,输出估计的噪声矩阵,然后从接收信号中去除估计的噪声矩阵,得到估计的信道矩阵。仿真结果表明,基于NFDNet的信道估计算法相比于Dn CNN获得了更高的归一化均方误差性能。2.在分析噪声对信道估计性能影响的基础上,基于毫米波大规模MIMO信道的稀疏性,本文提出基于两步噪声学习网络（Two-step Noise Learning Network,TNLNet）的波束域毫米波大规模MIMO信道估计算法。基本原理是在接收信号经过卷积层和池化层提取噪声特征的基础上,利用波束域毫米波大规模MIMO信道矩阵稀疏性所引起的相邻元素相近的特点,采用可逆的下采样,将信道矩阵重构成4个子矩阵,降低复杂度,提高训练和测试效率。结果表明,基于TNLNet的信道估计算法不仅获得了更优的归一化均方误差性能,且在单一训练模型中获得了比基于快速灵活去噪卷积神经网络的信道估计算法更宽的信噪比适用范围,增强了实用性。3.为进一步降低毫米波大规模MIMO系统实现所需的硬件成本及功耗,本文在天线阵列较大而射频链的数量有限的情况下,提出基于非迭代重构网络（Non-Iterative Reconstruction Network,NIRNet）的信道估计算法。基本原理是提出的重构网络利用卷积层对信道矩阵进行非迭代的重构,与现有学习近似消息传递类迭代重构算法相比,降低了复杂度;并在考虑传输数据先验信息的基础上,通过提出的选择网络训练得到基于学习的选择矩阵,与随机伯努利选择矩阵相比,基于学习的选择矩阵为提高信道重构精度做铺垫;最后,在分析噪声对信道估计性能影响的基础上,采用去噪网络进一步提高了估计精度。结果表明,在只配备少量射频链的情况下,与基于学习去噪的近似消息传递、全卷积去噪近似消息传递等算法相比,NIRNet以更低的计算复杂度取得了更优的归一化均方误差和可达和速率性能,满足低复杂度高可靠的性能需求。