大型MIMO-OFDM系统通过在收发端配置数十或数百根天线,具有高复用增益、高分集增益以及高频谱效率等优点,能够较好的满足未来无线网络对系统的吞吐率以及可靠性越来越高的要求,因而是未来无线通信系统中非常有潜力的信息传输方案。信号检测与估计是信号处理领域长盛不衰的研究主题,其处理精度和效率是大型MIMO-OFDM系统发挥上述优点的基本前提。在本文中,我们将以提升大型MIMO-OFDM系统信号检测与估计的效率和精度为目标,以充分利用和挖掘无线通信中明显的和隐藏的稀疏性为切入点,以稀疏信号处理框架压缩感知为理论工具,设计以及优化系统的信号检测与估计策略。首先,我们考虑OFDM系统的稀疏信道估计,分别从两方面去优化系统的信道估计策略,即导频模板和信道估计算法。在OFDM系统中,等间隔的布置导频符号是基于导频的信道估计方式中常用的方案。然而,如果我们考虑无线信道冲激响应的稀疏性(这是无线信道的固有特性),非等间隔的导频布置方案往往能够获得更好的性能。具体地,我们以相关性为准则来研究导频布置方案。为了处理相应产生的组合优化问题,我们提出了一种简单而有效的领域搜索算法。对于信道估计,我们可以将它看成是稀疏信号的重构。为了增强我们所提出的方案的适用性,即信道阶数未知的情形,我们结合贝叶斯信息准则和现有的低复杂度稀疏重构算法(即正交匹配追踪算法)来同时估计信道阶数和时域冲激响应。将我们所提出的导频布置方案和信道估计算法结合,我们不仅在误符号率性能上远胜于传统的基于等间隔导频和插值算法的信道估计方案,而且需要的导频数量也远少于后者。其次,我们考虑大型MIMO系统的信号检测问题。在本文中,我们考虑MIMO系统中两种不同的调制方式,即正交幅度调制和空间调制。针对正交幅度调制,比如BPSK和4-QAM,我们提出了一种低复杂度的信号检测算法,且该算法能够获得近似最大似然检测算法的性能。我们所提出算法的核心思想是利用接收信号残余误差的稀疏性来迭代的增强检测性能。具体地,由于线性MMSE算法的误符号率通常不高(即,10%以下),原发送信号与估计信号的差,即残余误差,将会表现出高度的稀疏性。因此,通过压缩感知中的稀疏重构算法鉴别残余误差向量中的非零值(对应着被错误检测的符号),我们可以将原MIMO系统退化成一个新MIMO系统且新MIMO系统的输入维度要远小于输出维度。也就是说针对此新MIMO系统,线性检测算法将会获得近似最优的性能,否则我们可以重复上述过程来迭代增强检测直至满足条件。总而言之,我们所提出的算法可以获得近似最大似然检测算法的性能而其复杂度和线性检测算法的复杂度为同一量级。最后,我们考虑大型MIMO系统中广义空移键控信号的检测,其中广义空移键控是空间调制方式的一种。在广义空移键控调制方式中,发射端只激活少量的天线且通过选择天线的激活和关闭来传输信息,因此广义空移键控信号从本质上讲就是一种稀疏0-1信号。受此启发,我们提出了一种检测0-1信号的低复杂度的稀疏K-Best算法,该算法是基于球形译码中宽度优先策略,即K-Best算法。和传统的K-Best算法不一样的是,稀疏K-Best算法仅考查少量可能激活的发射端天线。总而言之,我们所提出的算法不仅利用了广义空移键控信号的稀疏性而且还挖掘了其非零值取值的限制。因此,基于有限等距特性的性能分析表明稀疏K-Best算法的重构所需要的条件要比现有的贪婪类算法宽松。此外仿真结果也表明我们所提出的稀疏K-Best算法在检测性能上要远胜于基于稀疏重构算法的归一化压缩感知检测方案而且复杂度仅略微高于以低复杂度著称的正交匹配追踪算法。总而言之,本文上述研究结果表明：在大型MIMO-OFDM信号传输过程,如果充分挖掘信号的稀疏性,不仅能够降低系统开销,而且能够大幅度提升信号检测与估计性能。