随着无线通信业务需求的不断增长,频谱资源开始变得日益紧缺,从而严重限制了通信技术的发展。为了解决这一问题,认知无线电技术应运而生。它允许认知用户在频谱空闲的状态下,通过向主用户临时借用频谱资源的方式接入网络,从而达到提高频谱资源利用率的目的。作为认知无线电系统中最重要的一个环节,频谱感知技术受到了国内外学者们的广泛关注。为了保证主用户不受认知用户的干扰,要求频谱感知算法具有较高的感知精度。与此同时,为了尽可能多的为认知用户提供接入机会,则要求感知算法具有较高的感知效率。因此,研究快速而准确,且易于实现的频谱感知算法具有非常重要的意义。基于此,本文针对认知无线电系统中的频谱感知技术进行了深入的研究,具体的研究内容和成果如下:1.在频谱感知的基本模型下,利用似然比检验的基本架构,对最基本的三种经典算法:匹配滤波检测、能量检测和循环平稳特征检测进行了更为系统的整理和分析,重新推导了三种算法检验统计量的构造过程,从本质上解释了三种方法各自的优缺点,为全文的研究工作奠定了理论基础。2.针对超低信噪比环境下的频谱感知问题,结合非线性动力学中的混沌理论,提出了一种基于Duffing振子的频谱感知模型。由于Duffing振子具有初值敏感性和对噪声的免疫特性,所以将认知用户接收端的接收信号作为激励加入系统即可做出主用户是否存在的判决。考虑到实际应用中,待测频率是可变的,而原始的Duffing系统只能检测固定频率的信号,不够灵活,文中针对Duffing系统进行了相应的改进,通过引入无量纲变换系数提出了Duffing系统的等效模型,在应用中只需调整变换系数就可以实现对不同频率信号的检测。与此同时,由于在频谱感知的实际应用中,通常需要对较宽的频段进行感知,而单一的Duffing频谱感知模型只能检测较窄频带内的信号,因此,为了解决这一问题,进一步设计出了阵列式Duffing振子频谱感知系统。此外,由于Duffing振子本身对于相位具有一定的敏感性,为此在系统中引入了相应的预处理模块,使其更加符合频谱感知的实际应用场景。最后通过数值仿真实验,证明了Duffing系统等效模型的有效性,并且分析了AWGN信道环境下所提方法的检测性能,结果表明Duffing振子频谱感知方案在信噪比达到-25 dB时仍然保持较高的检测性能,可以实现超低信噪比环境下的可靠检测。3.针对多天线系统中的频谱感知问题,提出了基于局部方差的频谱感知算法。在采样协方差矩阵的基础上定义了局部方差的概念,并以此构造检验统计量,设计了三种检测方法。然后利用渐近分布理论,分别推导了三种方法的渐近理论门限。由于在所提方法中,用到了采样协方差矩阵的二阶统计特性,对信号空间相关结构的利用更加充分,因此相较于其他多天线频谱感知算法,局部方差法的性能更佳。为了证明所提方法的优越性,通过仿真全面对比了所提方法和其他相关方法的检测性能,结果显示,在相同的场景下,局部方差法的检测精度更高,而要达到相同的检测概率,局部方差法所需要的采样点数和天线数更少,因而具有更高的检测效率。4.针对非圆信号提出了一种基于局部最大功效不变检验(LMPIT,locally most powerful invariant test)的频谱感知算法。在实际的通信系统中,非圆信号是非常常见的一类信号,而对于非圆信号而言,其二阶统计特性除了协方差还包括共轭协方差,但现有的算法均忽略掉了这一点。基于此,文中针对非圆信号,在不变检验的基础上,借助LMPIT思想,利用由采样协方差矩阵和采样共轭协方差矩阵所构成的增广矩阵构建检验统计量,设计出了一种新的NC-LMPIT(noncircular-LMPIT)感知算法,并根据渐进分布理论,推导了所提方法的渐近理论门限。为了验证所提方法的检测性能,分别从检验统计量的特性、不同信道环境、不同采样点数和天线数以及不同类型噪声对检测性能的影响等多个角度对所提方法的性能进行了考察,同时还与NC-HDM(noncircular-Hadamard)等方法进行了对比。结果表明,相较于其他感知算法,NC-LMPIT感知方法的检测性能更佳。此外,在提出的方法中无需已知信道、噪声以及主用户的任何先验信息,而且即使在采样点数较少,信噪比较低的场景下也能取得较好的性能,因此可以被广泛使用在频谱感知的实际应用中。