移动通信系统的快速发展不仅改变了人们的生活方式,也成为社会信息化水平的重要引擎。Massive MIMO技术在收发端配置大量的天线,能够在相同带宽的条件下获得3~5倍于传统基站的频谱效率,从而提供更好的网络覆盖,更佳的用户网络体验,成为5G关键技术之一。由于收发端天线数目的增加,MASSIVE MIMO系统在进行信道估计时算法复杂度大大增加,故而研究降低训练序列开销及提高信道估计精度意义重大。MASSIVE MIMO系统主要分为TDD与FDD两种传输模式。针对TDD传输模式下的多小区多用户场景,构建近似稀疏合成信道矩阵,提出了一种自适应信道估计算法。在StOMP算法中引入果蝇算法,实现自适应搜索迭代阈值。通过仿真验证了所提算法能有效解决导频污染,提高了信道估计精度。针对FDD传输模式,构建了MASSIVE MIMO系统角域稀疏信道模型,提出了一种基于门限的稀疏度自适应压缩感知信道估计算法。引入回溯正交匹配追踪(BAOMP)算法的原子选择规则,通过设置合理的阈值有效选择SAMP算法中的初始原子,找到原始信号最大近似系数,大大降低了SAMP算法的迭代次数,提高了算法收敛速度。当小区内用户数发生变化时,所提出的算法不仅能实现自适应信道估计,还可以提高信道估计精度。