随着无线通信技术的迅速发展,静态的频谱分配策略和使用方式已不能满足其高速率、高质量的通信需求。而认知无线电系统为动态分配和使用频谱提供新的方案,自1999年提出以来,受到了广泛关注和研究。作为认知无线电的核心技术,频谱检测算法通过实时准确的识别“频谱空穴”,为非授权用户提供接入机会,进而提高频谱利用效率。信号在某些域具有的稀疏特性,一方面可以更加集中信号的能量,另一方面也可以有效降低采样速率和难度,分别对应频谱检测算法中对高检测概率和动态实时检测的要求。所以,本文尝试将稀疏特性和检测算法结合,着重研究基于频域稀疏特性的检测算法,并对算法的检测性能进行分析。首先,论文介绍了课题的研究背景和意义,分析现有检测算法的优势和缺陷,引出本文重点研究的基于功率谱估计最大值的检测算法和基于MWC-SBL系统的检测算法,接着总结了这两种算法所用到的基础理论,包括功率谱估计、随机带宽转换器、稀疏贝叶斯学习等,并给出了相应的仿真结果。其次,深入分析基于功率谱估计最大值的检测算法,定义统计判决变量为信号功率谱估计最大值。在分析统计判决变量的均值、方差、相关性等统计特性之后,利用卡方分布对H0、H1假设下的统计判决变量进行分布建模,推导检测概率、虚警概率、判决门限等理论表达式。仿真部分,验证卡方分布建模的正确性和选取估计最大值作为统计判决变量的优势,分析采样数据长度、功率谱分段数目对检测性能的影响,并与能量检测算法进行对比。随后的仿真表明,不同的窗函数选取对检测概率和卡方分布建模的准确性都有影响且二者呈现相反的趋势。尽管基于功率谱估计最大值的算法在稀疏窄带信号的检测中有着独特的优势,但由于前端采样的限制,对于稀疏多频带信号并不能达到及时检测的要求。最后,研究了基于MWC-SBL系统的检测算法,以压缩采样为基础,利用稀疏贝叶斯学习算法,充分挖掘观测数据的信息,为宽带检测提供另一种方案。定义支撑集为统计判决变量,通过支撑集的检测情况,完成每个频带信号存在与否的判断。在完成算法描述后,根据恢复得到的支撑集与原始支撑集之间的关系,定义检测概率、虚警概率的统计表达式。随后的仿真重点关注固定位置单信号和多信号的检测性能、随机位置单信号和多信号的检测性能、不同匹配原则对检测性能的提升以及均方误差等指标,并与基于MWC-OMP的检测算法进行对比。仿真表明,基于MWC-SBL检测算法在检测概率等性能指标上比MWC-OMP检测算法更具优势。