认知无线电是一个革命性的概念,它可以提高频谱资源的利用率。在认知无线电网络中,合作频谱感知可以有效提高频谱检测性能,它可以克服单个用户由于自身硬件条件不足或者所处无线环境较为恶劣等因素造成的频谱感知不准确。在合作频谱感知中,多个节点通过交换信息来提高频谱感知整体检测性能,但当参与合作频谱感知的节点达到一定数目时,进一步增加节点数目并不能显著提高整体检测性能,反而会造成较多的能量消耗与传输时延。因此在满足检测性能要求的基础上应当减少合作节点数目,这就需要选择在某些性能指标上最优的节点参与合作频谱感知。参与合作的节点中可能存在恶意节点,它们在合作的过程中会发送篡改后的数据以达到破坏网络或者独享频谱资源的目的,因此在节点选择过程中需要防止选择恶意节点。此外当感知节点距离较近时,感知结果存在相关性,这将削弱空间多样性带来的性能增益,因此需要选择相互之间相关性最小的节点集参与合作频谱感知。本文从可靠性以及相关性两个方面考虑节点选择问题并做出了以下三个方面的贡献。本文首先从可靠性方面考虑节点选择问题,即考虑如何选择诚实用户参与合作频谱感知。已有学者证明恶意用户可以通过合作获得更好的攻击性能,因此这一部分首先研究恶意用户的合作攻击行为,然后考虑如何在节点选择过程中剔除合作攻击用户。本文提出一种新的合作攻击模型并将其称之为平衡合作攻击。我们证明平衡合作攻击用户可以在攻击的同时模拟正常用户的统计特性,例如检测概率与虚警概率等。此时平衡合作攻击可以通过许多已有安全机制的检测并且可以对网络性能造成较大破坏。我们针对平衡合作攻击提出一种异常检测算法。我们通过理论分析发现平衡合作攻击节点的报告之间具有最高的相似性,因此提出基于相似度的异常检测算法。该算法的思想是剔除那些和其它节点具有异常相似度的用户。仿真结果表明所提算法可以在较短时间内剔除平衡合作攻击节点,并且将正常用户误认为攻击用户的概率很低,因此所提算法可以很容易地和已有算法相结合以同时检测独立攻击与平衡合作攻击。最后本文从可靠性以及相关性两方面综合考虑节点选择问题。在这一部分我们对前文提出的基于相似度的异常检测算法进行了改进以适应相关性环境,并利用改进后的算法提出了一种健壮的节点选择机制。当感知结果存在相关性并且网络中同时存在合作攻击与独立攻击时,该机制可以有效选择出可靠并且相关性较小的节点进行合作频谱感知。我们首先利用基于节点相似度的迭代算法剔除大部分合作攻击用户,然后利用一个设计良好的代价矩阵从剩余节点中选择出一定数目可靠且具有较小相关性的节点,该代价矩阵消除了独立攻击用户以及一些未被检测出来的合作攻击用户的影响。仿真结果表明所提算法性能接近于没有恶意用户时的网络性能。