为了应对移动数据流量爆炸式增长、海量的设备连接及新的业务和应用场景,下一代无线通信系统将充分利用从低频到高频的频谱资源,大幅提升频谱效率、能源效率和成本效率。认知无线电作为一种实现共享使用频谱、能显著提高频谱效率的技术而获得了广泛的关注,频谱感知则是其关键技术之一。本文主要对频谱感知中基于特征值检测器的合作频谱感知算法和频谱感知工作机制进行研究,提出了一种基于高阶矩改进的合作频谱感知算法。同时,针对现有间断式的频谱感知工作机制,提出了基于信号集合特性的连续频谱感知工作机制。具体研究内容和创新包括以下两个方面:1.在中心式合作频谱感知模型中,重点研究了基于特征值检测器的合作频谱感知算法。搭建仿真平台以实现对于各种合作频谱感知算法之间的对比,并分析其理论基础、优点及缺点。基于特征值检测器的合作频谱感知算法不仅在可靠性上优于能量检测器,而且更易于实现全盲检测。然而,现有部分基于特征值检测器的合作频谱感知算法只利用接收信号协方差矩阵的最大特征值构成全局检验统计量,舍弃了剩余的特征值,并不能完全利用接收信号中蕴含的所有特征值信息。此外,现有算法大多基于一阶的特征值构造判决变量,并未完全利用隐藏在接收信号中的特征值高阶矩信息。为了解决上述问题,本文引入特征值的高阶矩进行改进,利用特征值的高阶矩扩大在不同检验假设下全局统计量之间的差距,由此提出了基于高阶矩改进的特征值检测器合作频谱感知算法。仿真结果表明,所提改进算法可以有效提升频谱感知的性能。2.针对连续频谱检测机制的研究,主要完成以下三个目标:(1)提出能够实现连续频谱感知的工作机制;(2)提高所提工作机制对目标授权频段状态变化的响应速度;(3)降低计算复杂度以达到易于实现的目的。首先,针对第一个目标,设计一个滑动窗口,SU通过滑动窗口观测目标授权频段,令滑动窗口内各个时隙的观测数据组成一个集合,然后通过对集合势的估计得到当前滑窗内的信号判决结果。其次,对目标授权频段的响应速度与滑动窗口内时隙的宽度、时隙数量(即滑动窗口的分辨率)密切相关。基于现有准则,提出了基于样本功率改进的准则,避免了对协方差矩阵进行特征值分解带来的计算复杂度。同时,基于信号连续性,提出了不同集合势估计准则组合的改进方案,避免虚警率或漏检率过高的情况,降低估计误差,并实现快速响应。最后,提出了基于集合平均值迭代的连续频谱感知工作机制,该机制不需要对接收信号的协方差矩阵进行特征值分解,计算复杂度较低,从而可以实现低复杂度的目的。仿真结果表明,所提工作机制在一定SINR下可以达到对目标授权频段的快速响应的目的。