毫米波频段具有大量未用频谱,且波长更短,因此同样大小的模块可以配备更多的天线阵元。大规模多输入多输出（Multiple Input Multiple Output,MIMO）技术通过在收发双方配置大量天线,能够极大地提高系统频谱效率。因此,毫米波通信与大规模MIMO技术的结合能有效地发挥它们各自的优势。然而,天线数量的增加使得射频链路的数量随之增加,进而增加系统功耗。模数转换器（Analog to Digital Converters,ADCs）是整个射频链路中功耗最大的器件,其功耗与量化比特数指数正相关,因此基于低分辨率ADC的毫米波信道估计技术在提高通信系统性能同时权衡硬件成本和功耗方面有重要的意义。接收端配置低分辨率ADC时,毫米波大规模MIMO系统的信道估计主要存在以下问题。第一,信道矩阵维度增大,传统信道估计算法复杂度高。第二,低分辨率ADC具有不可忽略的量化误差,降低信道估计精度。本文针对现有算法的不足,提出了估计精度更高且复杂度更低的信道估计算法。主要研究工作如下:在接收端配置单比特ADC的毫米波大规模MIMO系统架构下,针对传统期望最大算法需要计算高维感知矩阵的伪逆,复杂度高的问题,设计了期望最大正交匹配追踪（Expectation Maximization-Orthogonal Matching Pursuit,EM-OMP）算法。该算法利用毫米波信道的稀疏特性,使用OMP算法估计支撑集,降低EM算法极大步的复杂度。与此同时,OMP算法确保了估计信道值的稀疏性,具有更好的估计精度。但是,OMP算法需要稀疏度先验已知,针对这一缺陷,提出了自适应OMP算法。仿真结果表明,所提算法的估计精度和复杂度性能明显优于EM算法。单比特ADC只保留符号信息,估计精度受限。为此,接收端配置了低分辨率ADC,在这种毫米波大规模MIMO系统架构下,本文设计了一种两阶段的信道估计算法,即归一化梯度下降期望最大（Normalized Gradient Descent-Expectation Maximization,NGD-EM）算法。该算法第一阶段利用低分辨率观测值和重构一致准则作为不等式约束,稀疏度作为代价函数,构造优化问题并提出NGD算法求解,估计支撑集;第二阶段利用估计的支撑集将信道估计问题降维,再使用EM算法求解。仿真结果表明,所提NGD-EM算法的估计精度和复杂度优于现有基于低分辨率ADC的毫米波信道估计算法。