毫米波无线通信是未来5G网络中达到更高数据速率的关键,采用大型天线阵列可以实现毫米波通信的高功率增益。然而,天线数量的逐渐增加将导致通信系统越来越复杂,毫米波大规模MIMO系统的信道估计具有很大的挑战。为了解决该问题,本文引入了多维张量低秩分解模型,对于毫米波大规模MIMO系统中的信道估计问题,做出了以下研究:首先,为了提高信道估计的准确度,提出了基于TTSVD和FAST-HALS的毫米波大规模MIMO低秩张量信道估计算法。利用毫米波信道的稀疏性和低秩特性,首先将用户端接收信号建模成三阶张量模型,在信道估计之前应用TTSVD对接收信号张量进行去噪处理,以提高估计的精度;然后引入快速分层交替最小二乘算法对信号进行张量分解。仿真结果证实了所提出的信道估计方法可以减小系统中噪声的影响,对噪声具有鲁棒性,能够得到准确的信道参数估计。其次,针对毫米波大规模MIMO系统,采用混合预编码结构,由于大规模天线的部署,而造成高复杂度的信道估计问题,提出了基于交替子空间张量分解的毫米波大规模MIMO系统信道参数估计方案。在接收端将收到的信号建模成低秩张量结构,采用交替子空间的方法从大尺度张量中逐一提取出秩-1张量,推导出优化ALS算法迭代更新秩-1张量参数,精确得到信道参数的估计。仿真实验的结果证实了该算法可以显著降低信道估计的计算复杂度。最后,针对多用户情况下,在毫米波大规模MIMO系统,现有方法采用自适应预编码结构,由于基站端服务用户量的增多以及大规模天线的部署,要获得准确快速的信道参数估计,通常涉及到高维的繁杂运算,给出了基于TTCP分解的高阶信道估计方法。利用张量列分解的方式将高阶多用户接收信号张量压缩为一组的不超过3阶的互联核心张量,并且维持了原有的信道特性,能够从核心张量中得到准确的信道参数估计。仿真实验证明了TTCP信道估计方法能够显著提升系统的总体性能。