物联网、无人系统和人工智能技术的快速发展,以及移动用户和智能设备数量日益增长,导致频谱资源稀缺。认知无线电（Cognitive Radio,CR）是解决频谱稀缺的方案之一,频谱感知作为CR的关键技术之一,可以在复杂的无线环境中准确快速的检测到频谱空穴,从而充分利用频谱。由于机器学习算法具有主动学习和自动预测的优点,与认知无线电的CR用户自动感知外界环境信息的特点非常契合。将机器学习应用于频谱感知是未来无线通信发展的趋势,已有很多机器学习算法被应用于频谱感知。针对目前频谱感知算法所存在的问题,本文做了以下研究:1)针对传统能量检测算法无法区分混合信号导致检测效果不佳的问题,本文研究了盲源分离在频谱感知中的应用。首先,将两种新的盲源分离算法引入频谱检测,即Power ICA算法和ICA＿p算法;其次,与Fast ICA算法的性能做了对比,仿真结果表明,这几种ICA算法都能将混合信号分离,对源信号进行估计重构,解决了能量检测算法对混合信号检测效果不佳的问题,并且ICA＿p算法应用于频谱检测可以取得更好的结果。2)针对信噪比较低时,ICA算法分离混合信号效果较差,导致频谱检测效果不佳的问题,提出了一种改进的盲源分离频谱检测算法。首先,对接收到的混合信号进行预处理,降低噪声的影响,本文采用的去噪方法为对接收信号进行小波变换;随后,使用ICA＿p算法对信号进行分离;接着对ICA＿p算法分离出来的信号进行快速傅里叶变换,得到每个信号的频谱信息;最后对频谱进行分析,判断出当前信道的使用状态。仿真结果表明,所提出的方法可以提高分离的效果,在信噪比较低时,可以很好的对源信号进行估计。将盲源分离算法应用于频谱检测,不仅可以实现全盲检测,还可以快速监测到信道的状态。3)很多基于机器学习的频谱感知算法普遍采用信号的能量观测值作为训练集,虽然采用这种方法所得到的检测结果优于传统的检测算法,但是也存在一定的缺点。当次用户个数较多时,能量向量的维度也会增加,这会降低分类的正确率,针对这个问题,本文提出了一种改进的Ada Boost频谱感知算法。首先,选用二维恒定向量（即概率向量）代替N维能量向量作为特征向量（N为次用户个数）,降低特征向量的维度;接着使用一种混合的Ada Boost算法对特征向量进行分类,混合的Ada Boost算法选用一个支持向量机和多个单层决策树组合而成;最后得出合作感知的结果。实验仿真表明,所提的方法在整体上提升了分类器的性能,达到了提高检测概率的目的。