为了满足未来无线通信系统中海量数据的高质量传输需求,多输入多输出（Multiple-Input Multiple-Output,MIMO）技术因其具有高频谱利用率和空间复用等优点被认为是5G通信的关键技术。对于MIMO系统,波束成形和信号检测等要求必须获取准确的信道状态信息。然而随着基站天线数量的增加,如何利用较少的导频资源来精准估计多维信道是MIMO系统亟需解决的难题。因此,研究MIMO系统中的导频设计方案,对通信系统的信道估计性能具有重要意义。在宽带通信系统中,无线信道呈现稀疏性,即信道时延扩展大,但是显著路径的个数少。传统的信道估计并没有考虑无线信道的稀疏性,导频密度由二维奈奎斯特抽样速率决定,导频开销巨大。将压缩感知理论(（Compressed Sensing,CS）应用于MIMO-OFDM系统的稀疏信道估计中,能够显著减少导频数量,并获得良好的信道估计性能。传统的信道估计认为等间隔的导频放置方式是最优的,但在基于CS的信道估计中这一结论并不成立。因此,研究基于CS的信道估计中的导频图案设计具有重要意义。本文重点研究了OFDM系统、MIMO-OFDM系统中基于CS的信道估计及导频图案设计,具体工作开展如下:（1）在宽带无线通信慢衰落场景下,针对基于压缩感知的OFDM传统信道估计存在估计精度低及重构算法收敛效率低的问题,提出了一种基于软阈值变步长分段自适应匹配追踪（Variable Proportion-Variable Step size Stagewise Adaptive Matching Pursuit,VP-VSSt AMP）算法。算法首先在原子初选阶段引入动态阈值参数,在不同迭代阶段严格把控原子质量,能够有效提高估计精度;其次结合变步长思想,可以快速逼近信道真实稀疏度。仿真结果表明,与现有的自适应重构算法相比,采用本文所提算法可降低约1～2dB的信道均方误差。（2）在SISO-OFDM系统中,针对传统采样矩阵互相关准则定义不够准确的问题,提出以互相关矩阵元素之间的距离立方和作为新的导频设计准则,能够更加准确地评价采样矩阵整体互相关性;另外,针对现有导频搜索算法效率低以及存在局部收敛的问题,提出一种新的导频图案搜索算法来进行信道估计,避免了间隔过大和过小的导频入选候选集,优化导频搜索效率。仿真结果表明,与随机导频设计方案相比,采用新准则设计的导频能够有效减小约4dB的信道均方误差。同时,新提出的导频搜索算法复杂度更低,且具有更好的收敛效果。（3）在MIMO-OFDM系统中,针对多天线导频图案联合设计算法效率低及估计质量差的问题。本文提出一种基于自适应分枝树的MIMO-OFDM信道估计导频图案设计（SATSS-SM）方法。首先构建了采样矩阵互相关模型,提出了最小互相关距离立方和准则,其次结合移位机制理论,然后使用SATSS-SM算法搜索导频,快速收敛到全局最小互相关值,实现低复杂度稀疏信道估计。仿真结果表明,与现有的导频优化方案相比,采用所提算法设计的导频图案可降低约2～4dB的信道估计均方误差。