第五代（5G）移动通信系统,由于移动数据流量的爆炸式增长和设备的超量连接,将在超大范围、海量容量、海量连接、超低延迟等方面面临新的要求和挑战。满足这些需求的主要限制来自可用频率资源的有限性。利用认知无线电（CR）技术提高现有频段的利用率,是解决频谱稀缺问题的一个有前途的解决方案。频谱感知作为认知无线电网络的主要环节,允许次级用户利用授权的主用户的空闲频谱进行机会通信。在实际应用中,低信噪比、无线信道的多径衰落和时间弥散以及噪声功率不确定性给频谱感知带来了挑战。频谱检测方法多种多样,其中基于特征值的算法因其在低信噪比条件下具有较高的检测性能等优点而得到了广泛的研究。接收信号协方差矩阵的特征值反映了信号和背景噪声的许多信息,如何充分挖掘这些信息并将其应用到信号检测中,是该类频谱感知方法主要关注的问题。本文针对这一问题进行了深入的研究,并在以下几个方面做出了贡献:（1）接收信号样本协方差矩阵的最大特征值较好地捕捉了信号的相关特性,而其最小特征值较好地捕捉了噪声特性,怎样更好地利用这一特性以提高算法性能,是现有基于最大最小特征值频谱感知算法的关注点。为此,本文分析现有基于最大最小特征值的频谱感知算法,研究现有算法的结合问题,提出了现有算法的融合算法,统称为最大最小特征值α组合算法,以提高检测性能。特别的,基于随机矩阵理论推导了检测概率、虚警概率和门限的数学表达式,具有较好的理论意义。最后,通过对多用户、多天线和多径场景下的仿真,验证了该类算法的有效性。在这些算法中,基于最大和最小特征值之积和之和算法（α-MMEP和α-MMES）显示出最佳的检测性能。（2）信号和噪声的特性不仅反映在最大最小特征值,而且也反映在其他特征值上,怎样充分利用接收信号协方差矩阵的所有特征值也是提高检测性能的一个有效途径。为此,本文针对一些现有特征值检测算法仅利用部分特征值检测的缺陷,通过比较不同的特征值检测算法,提出了几个新的基于所有特征值的频谱检测算法,包括EES、MEW和EW算法。仿真结果表明,充分利用特征值（特征值的联合分布）在低信噪比下具有较高的检测概率。此外,与传统算法相比,本文提出的基于联合特征值的算法具有较高的检测性能和较强的鲁棒性。（3）频谱感知中利用接收信号协方差矩阵的所有特征值肯定有利于提高检测性能,但是这些特征值的组合有没有最优组合呢?针对这一问题,本文基于奈曼-皮尔逊准则,导出了特征值加权检测算法。该算法首先利用特征值和能量的近似,将特征值加权问题转化为一个基于能量加权函数的优化问题,通过分析检测阈值和虚警概率,得到了加权参数的最优解闭式表达式。然后,考虑到特征值更能够反应信号间的相关性,基于得到的最优加权参数,设计了特征值加权方案,进一步提升了检测性能。仿真结果验证了所提算法的有效性。