随着无线通信业务的快速增长，有限的频谱资源越来越稀缺，而受传统的静态频谱分配方案的限制，无线频谱资源的利用率并不高。如何提高频谱利用率已成为下一代无线通信亟待解决的问题。在这一背景下，认知无线电技术应运而生，它提供了一种按伺机方式接入、共享和利用频谱的手段，可以有效地提高频率利用率。为了避免对主用户造成干扰，认知无线电需要通过频谱感知监视和检测特定频段上的主用户信号的活动情况，当检测到空闲频谱存在的时候，认知无线电系统可以使用该频谱；而当主用户信号再次出现时，认知无线电系统必须在规定的时间内退出该频段。可见，可靠的频谱感知是实现认知无线电的关键技术之一，其研究具有重要的意义。当前已有一些成熟的信号检测技术可用于频谱感知，但在实际认知系统中，由于通信信道受到非高斯噪声的影响，传统的基于高斯噪声模型的频谱感知技术将出现性能退化甚至失效，同时受衰落、阴影等因素的影响，次用户观测到的主用户信噪比较低，单用户检测性能不佳。本文正是在这个背景下，借助统计信号估计与检测理论、分数低阶统计量理论和多用户协作技术，对非高斯噪声背景下的频谱感知技术进行了深入的研究。本文主要工作和创新包括以下内容：（1）混合高斯噪声中基于线性模型的Rao检测算法：广义似然比检验（GLRT）可实现含未知参数的本地频谱感知，且性能很好，但需要在两种假设情况下对未知参数求最大似然估计，研究表明在混合高斯噪声中未知参数的最大似然估计几乎无法求解，GLRT此时失效。针对此问题，本文将基于线性模型的Rao检测器应用于混合高斯噪声中的频谱感知，该算法仅需在空假设情况下对未知参数进行最大似然估计。为了进一步降低算法的复杂性，文中通过矩估计法代替噪声方差的最大似然估计、时间均值法代替Fisher信息矩阵因子的复杂求导和积分运算，并在不同先验信息条件下推导了检测统计量及其检测性能的理论表达式。此外，为了提高单个次用户的感知性能，本文给出了基于改进的OR准则和Chair-Varshney准则的多用户协作方案。理论分析和仿真结果表明能量检测器在混合高斯噪声中随着非高斯程度的增加检测性能大大退化，而Rao检测器即使在低信噪比条件下也具有较好的性能，且在混合系数的取值范围内单调增加。此外，基于改进的OR准则和Chair-Varshney准则的协作频谱感知有效提高了全局检测概率，大大减少次用户对主用户造成的干扰。（2）广义高斯噪声中基于Rao检测器的协作感知算法：广义高斯噪声下传统的频谱感知算法往往需要各种先验信息，这在实际系统中很难实现。本文提出了基于Rao检验的频谱感知算法，通过推导发现检测统计量仅是噪声形状参数的函数，与主用户信号、信道增益及噪声方差均无关。同时Rao检测器通过对次用户所观测到的信号进行非线性幂运算，有效抑制了噪声的非高斯特性，从而降低了虚警概率，提高了空白频谱的利用率。文中在低信噪比条件下分别推导了Rao检测器和能量检测器的检测概率和虚警概率的闭式解，通过渐近相对效率进一步比较了两种检测器的性能。为了克服衰落和阴影所带来的影响，提出了基于Rao检测器和KM准则的多用户协作方案。考虑到实际通信系统中融合信道由于衰落导致误传的情况，本文进一步推导了算法在瑞利衰落融合信道下的检测性能。理论分析和仿真结果表明在广义高斯噪声中Rao检测器比传统的能量检测器以及基于极性重合矩阵的检测器具有更优的检测性能。更重要的结论是：随着噪声非高斯程度的增强，能量检测器的检测概率降低而Rao检测器的检测概率增加。此外，在瑞利衰落融合信道下，基于多数准则的协作感知可以获得最理想的感知性能，在提高频谱利用率的同时减小对主用户造成的干扰。（3）α稳定分布噪声中基于分数低阶矩的感知算法：由于α稳定分布无二阶和高阶统计量，传统的基于能量和高阶统计量的方法将失效；同时由于其概率密度函数一般无闭式解，常用的基于噪声概率密度函数的复合假设检验方法也将失效。针对上述问题，本文提出了基于分数低阶矩（FLOM）的感知算法，它无需任何主用户信号、信道增益和噪声概率密度函数的先验信息，近似为一种非参数的感知算法，计算简单，易于实现。该算法一方面通过次用户观测信号的分数低阶矩作为统计量，解决了α稳定分布噪声无二阶和高阶矩的问题；另一方面通过分数幂运算降低噪声尖峰，使得感知的虚警降低，从而有效地解决了α稳定分布噪声中频谱感知问题。文中根据中心极限定理推导了感知信道无衰落和瑞利衰落下FLOM检测器的检测概率和虚警概率表达式。理论分析和仿真结果表明，在α稳定分布噪声中能量检测器几乎失效，基于分数低阶矩的感知算法具有较好的感知性能，明显优于柯西检测器，且具有更好的鲁棒性。此外，通过多用户协作技术可以进一步提高感知性能。