广义空移键控技术是通过天线的索引来传输信号,较好的克服了传统MIMO技术中信道间的干扰严重、天线间同步困难以及多射频链路等问题,为下一代大规模MIMO技术的应用提供了新的方法。然而,广义空移键控信号的最大似然检测具有极高的复杂度,在实际问题中是难以处理的。通过利用该信号本身固有的稀疏特性,可以通过基于压缩感知的方案达到检测性能和计算复杂度兼顾的目的。本文深入研究了压缩感知算法和大规模MIMO系统中的广义空移键控信号检测问题,获得了以下几方面的研究成果:首先,研究了压缩感知理论中的信号重构算法,并着重地研究了基于迭代的贪婪算法。在广义正交匹配追踪算法的基础上,提出了两种基于双重选择策略的正交匹配追踪算法,通过引入回溯及限制性弱筛选思想提高了原算法的重构性能及原子选择的灵活性。其次,研究了广义空移键控系统中的信号检测算法,并利用信号固有的稀疏特性提出了一种基于欧氏距离的回溯匹配追踪检测算法。同时,仿真分析了所提出的算法与现有稀疏检测算法的检测性能和计算复杂度。从实验结果来看,所提出的检测算法在保证低复杂度的同时取得了较好的检测性能。最后,针对现有单阶段稀疏检测方案的性能有限问题,本文提出了新的二阶段检测方案。该方案包含粗选和精选两个阶段,利用欧氏距离准则在第一阶段先确定一个优化的子空间,然后第二阶段再对该子空间进行进一步遍历搜索得出最终的估计信号。通过计算机仿真结果可以看出,所提出的算法可以灵活取得检测性能和计算复杂度之间的良好折中。综上所述,本文给出的基于双重选择策略的正交匹配追踪算法具有很好的理论意义,而广义空移键控信号检测算法则具有很好的实际应用。