大规模MIMO技术是第五代移动通信系统(Fifth Generation,5G)中的关键技术之一。相比传统MIMO多天线系统,大规模MIMO多天线系统具有许多性能优势。然而,这些性能优势实现的前提是上、下行链路信道状态信息能在基站处被接收并估计出来。由于大规模MIMO系统中用户数目和天线数目将成数倍增多。所以传统的信道估计技术因导频开销巨大且估计精度低的问题不再适用。因此研究新的信道估计技术尤为重要,本文的研究工作如下:(1)在大规模MIMO通信系统,当天线阵列数目较多时产生的信道矩阵会具有稀疏特性。大规模MIMO通信系统利用这一特性,从而可以将系统信道估计问题转变成为压缩感知技术中的重构问题。首先本文采用了一种稀疏度自适应分段正交匹配追踪算法(SASt OMP),此算法在分段正交匹配追踪(St OMP)重构算法的基础上,加入了回溯思想,并且在原有迭代基础上加入新的标识参数,最终使算法达到有效的稀疏度自适应估计和二次支撑集筛选。实现了在大规模MIMO中在未知信道稀疏度的条件下的高性能的信道矩阵恢复。通过仿真结果分析可知,此算法信道估计性能明显优于基于St OMP的重构算法与基于OMP的重构算法。(2)采用SL0重构算法将信道估计问题转换为求解光滑函数的极值问题。用平滑函数近似范数并且与结合凸优化思想,在算法迭代过程中利用梯度投影原理和最速下降法,逐步逼近的信道估计矩阵最优解。并且对此算法进行进一步的改进,用双曲正切函数代替高斯函数进行信道估计,并且在迭代的过程中加入修正牛顿法优化算法。仿真结果表明与常用的CS重构算法相比,基于SL0的重构算法在不需要已知大规模MIMO信道的稀疏度情况下,计算的复杂度更低,信道估计精度更高。从而提升大规模MIMO系统信道估计性能。