认知无线电技术是解决现存频谱危机的几个主要备选方案之一，而频谱感知技术作为确保认知无线电网络正常运行的关键技术，近年来受到了广泛关注。传统的非盲频谱感知方法受限于主用户先验信息的获取，而盲频谱感知方法大多存在鲁棒性不足的问题，难以满足认知无线电的实际应用的要求。本文旨在提高认知无线电网络中频谱感知方法的可靠性和有效性，因而具有重要的理论价值和实际意义。本文从认知无线电网络的通信环境出发，改良现有频谱感知方法的检测模型，使之更贴近于实际情形。再通过所得模型推导出新的检测器，从而在检测性能和鲁棒性方面得到显著的提升。另外，我们对所提出的方法的检测性能进行了理论分析。本文针对频谱感知的一些特定场景给出了不同的解决方案。针对多用户协作感知应用，本文首先阐述该应用中非均匀背景噪声产生的原因，同时针对这一类型的噪声建立新的检测模型。然后，根据广义似然比检验准则推导出一种新的检测器，即Hadamard比检测算法。随后，对该检测器进行性能分析。具体来讲，运用矩量法推导出该检测器Beta分布形式的近似虚警概率和检测概率。最后，通过仿真实验来验证所得结论：首先通过蒙特-卡洛实验验证了所得近似分布的精度，然后采用接收机工作特性作为评价准则，将本章所得检测器与现有检测器进行比较。结果表明，该检测器较现有方法具有更好的鲁棒性和更高的检测精度。当参与协作的次用户配置了多天线时，该次用户各天线对应信道之间的相关性会显著增强。为了充分利用这一信号相关特性，本文提出了一种基于数据协方差矩阵体积的频谱感知方法。在性能分析中，首先采用Delta方法计算检测器近似的一阶和二阶矩，然后通过矩量法获得了其Gamma分布形式的虚警概率和检测概率。最后采用数值仿真验证理论虚警概率和检测概率的精度。结果表明，Hadamard比算法与基于体积的算法的检测性能各有优劣，实际应用中可根据次用户类型来选取合适的检测器。若主用户信号具有非圆特性，那么次用户感知该段频谱时，主用户信号的非圆特性往往是可以预先获知的。因此，这一信息应当作为一种先验知识考虑在检测模型中。然而，虽然非圆信号在通信系统中十分常见，现有的频谱感知方法却几乎全部将主用户信号默认为圆信号。当主用户信号为非圆时，协方差矩阵不能够完全刻画信号的统计特性，忽视信号的非圆特性将导致伪协方差矩阵所包含的信息被丢失，因此不是最优的检测方法。本文针对非圆主用户信号，根据广义似然比检验准则提出了一种基于广义线性变换的频谱感知方法。此外，本文采用渐近展开式的方法得到了检测器卡方分布形式的近似虚警概率。仿真结果显示，当主用户信号非圆特性明显时，所提出的检测算法优于现有方法。在实际应用中，我们可以根据被检测频段主用户信号的非圆率的大小来决定是否选用该检测器。