认知无线电(cognitive radio,CR)采用动态频谱接入方式实现次用户对空闲频谱的二次利用,极大地提高了频谱利用率,有效缓解长期以来频谱资源紧张的问题。其中,认知用户之间进行协作频谱感知(Cooperative Spectrum Sensing,CSS)能够有效克服多径效应、阴影衰落以及传输损耗等制约因素的影响,极大提高了频谱利用率。然而,当认知用户中存在恶意用户时,恶意用户将向邻居用户传输虚假的感知值,误导邻居用户作出错误的判决,进而破坏整个认知网络的性能。因此,恶意用户的检测与防御变得尤为重要。本文主要针对拜占庭攻击(Spectrum Sensing Data Falsification,SSDF)提出相关的防御方案,具体如下:首先,介绍在集中式以及分布式场景下协作频谱感知的相关理论知识,如常采用的融合算法,融合准则等,此外详细介绍在认知无线网络中的拜占庭攻击以及现有的防御措施。然后,针对不同类型的拜占庭攻击,侧重研究恶意用户之间存在协作攻击的场景,提出一种基于信誉与共识的分布式智能入侵防御方案。在该方案中,每一次迭代过程中,通过奖惩机制对认知用户进行信誉值的奖励或惩罚,并将认知用户的信誉值与一致性融合过程中的融合因子相结合,并共同作用于一致性融合过程。最终恶意用户在融合过程中的比重越来越小,诚实用户的比重越来越大,智能的恶意用户最终主动放弃恶意攻击,开始发送正确的感知值,达到全网共识。经过仿真分析,该方案能够有效抵御多个恶意用户(有协作/无协作)攻击,极大提高整个认知网络的健壮性与稳定性。最后,提出一种基于强化学习的分布式智能入侵防御方案,将强化模型与信誉模型相结合,认知用户通过不断的强化学习,选取最优的邻居用户进行合作,对应的获得一个瞬时回报和累计回报,然后进行对应的Q矩阵更新计算。同时进行信誉值的更新计算,当信誉值小于一定阀值的邻居用户视为潜在的恶意用户,最终智能的恶意用户放弃恶意攻击,发送正确的感知值,最终实现全网共识。经过仿真分析,该方案能够有效抵御多个恶意用户攻击的场景,极大提高了整个认知网络的稳健性。