大规模多输入多输出（Massive MIMO）系统在基站（BS）大规模部署天线阵列,来为用户提供高速可靠的传输服务,显著改善通信系统性能,成为了第五代移动通信系统（5G）关键技术之一,正交频分复用（OFDM）技术具有很强的抗频率选择性衰落能力与高效的频谱利用率。将OFDM技术与大规模MIMO结合成为了通信领域的必然趋势。要想充分发挥大规模MIMO-OFDM系统的优势,必须要准确获取信道状态信息（CSI）,而传统的信道估计方法因导频开销大,估计精度低已经不再适用于大规模MIMO-OFDM系统。为了设计出估计精度高、导频消耗少的大规模MIMO-OFDM系统的信道估计方法,本文基于压缩感知理论研究信道估计算法。本文主要研究工作如下:（1）在大规模MIMO-OFDM通信系统中,信道具有稀疏特性。利用大规模MIMO-OFDM通信系统的稀疏特性,研究基于压缩感知理论下的信道估计方法。首先,本文对传统贪婪类重构算法进行分析与仿真。其次,针对不需要预知信道稀疏度的稀疏自适应匹配追踪（SAMP）算法中的不足,提出改进的正则化双阈值SAMP算法（RDT-SAMP）,该算法在SAMP算法的基础上结合了正则化思想与双阈值改变固定步长思想,实现信号的精确重构。最后,通过仿真结果对比,表明RDT-SAMP算法在归一化均方误差（NMSE）和误比特率（BER）性能上均优于SAMP算法。（2）基于大规模MIMO-OFDM通信系统中信道空时稀疏性提出了一种凸优化的改进算法。迭代支持检测（ISD）算法是通过迭代支持集检测来改善基追踪（BP）算法中重构精度不够的一种改进凸优化算法,且该算法满足实际通信中信号稀疏度未知的要求。本文在ISD算法的基础上结合信道的块稀疏性,提出了改进迭代支持检测（IISD）算法,该算法充分利用块稀疏等效信道冲激响应（CIR）中固有的块稀疏性,增加了支持检测的鲁棒性,提高了信道估计性能,通过仿真对比也进一步说明IISD算法比ISD算法在NMSE性能上更佳,且IISD算法只是增加了一些比较操作,并不会增加算法的复杂度。