压缩感知是一种有效的稀疏信号处理工具,能够实现稀疏矢量的线性压缩与精确恢复,在语音和图像信号处理等方面有着广泛的应用。在无线通信系统中,稀疏特性广泛存在于信号产生和处理的多个环节。在充分挖掘以及准确表征无线信号稀疏特性的基础上,压缩感知算法能够保证低复杂度和高精确度的稀疏信号恢复,从而提高无线资源利用率。因此,压缩感知技术在无线通信系统中有着广阔的应用前景,已成为通信信号处理中的重要研究课题。本文挖掘了空间调制和大规模天线在不同场景下的信号稀疏特性与无线传感网中的数据稀疏特性,提出了一系列基于压缩感知的信号处理方法,从而提升了系统性能,使得压缩感知在无线通信中的应用范围得到了拓展。本文主要的研究内容和成果如下:本文研究了基于空间调制―正交频分复用(Spatial Modulation-Orthogonal Frequency Division Multiplexing,SM-OFDM)的高铁通信系统的信号检测问题。首先推导了基于压缩感知的信号检测模型,但该模型中测量矩阵的高相关性使得常规的压缩感知算法性能恶化,为此,提出了一种基于压缩感知的信号检测算法。本算法首先对测量矩阵进行分解,使分解后的子矩阵满足限制等距条件(Restricted Isometry Property,RIP),再求解所形成的压缩感知子问题,最后结合迭代过程消除干扰项。仿真结果表明,相比于现有的技术方案,本算法克服了误码平层,将比特误码率(Bit Error Rate,BER)降低了一个量级,并具备较低的计算复杂度。针对基于广义空间调制―正交频分复用(Generalized Spatial Modulation―Orthogonal Frequency Division Multiplexing,GSM-OFDM)的高铁通信系统,本文分别对其信道估计与信号检测问题进行了研究。首先提出了一种信道估计方案。本方案采用块状导频设计来避免将未激活的子载波作为导频子载波,并通过线性延伸与线性内插相结合的方式,拟合信道的变化特性,以保证信道的精确估计。仿真结果表明,本方案在较高信噪比下的估计精确度优于常规方法,且能够克服现有方法的估计精确度平层。此外,针对该系统的信号检测问题,证明了其符合压缩感知模型,并提出了一种新的压缩感知求解算法。本算法相比于基于SM-OFDM的高铁通信系统的信号检测算法,保留了其中的分解迭代过程以降低矩阵维度,但对于分解得到的每个子问题,采用了稀疏搜索的方法进行求解。仿真结果表明,相比于现有的技术方案,本算法获得了更好的检测精确度,其BER降低程度超过了一个量级。本文研究了大规模天线双选信道估计问题。首先挖掘了天线间基扩展系数的共稀疏特性,再通过导频图案设计,构建了具备块共稀疏结构的待恢复系数矩阵。在此基础上,提出了基于块分布式压缩感知的信道估计方案,并通过设计块离散统计导频优化算法进行导频位置的优化,以降低测量矩阵的块相关性,进而保证块分布式压缩感知问题的精确求解。本方案突破了大规模天线双选信道估计导频需求过高的限制,在相同的导频开销和归一化多普勒下,达到了与单天线双选信道估计方案相近的估计精确度。本文研究了基于分布式存储的无线传感网的数据聚合问题。为提升网络能效,在充分挖掘数据空时相关特性的基础上,提出了空时压缩网络编码方案来进行数据的扩散与聚合。在此基础上,将采样数据与变换域系数之间的关系建模为张量压缩感知问题。利用张量压缩感知的结构特点,进行了测量矩阵的分离优化,从而保证了数据的精确恢复。仿真结果表明相比于常规的数据聚合方案,本方案可以在保证相同的数据恢复精确度的情况下,减少收发数据量,将传感网的能量效率提升20%。综上所述,本文拓展了压缩感知的应用场景,丰富了压缩感知的求解算法,推进了压缩感知在无线通信中的研究与实现。