认知无线电技术作为解决频谱资源短缺的有效手段之一,现已成为无线通信的研究热点。由于传输信道本身所具有的广播特性,无线通信所面临的安全威胁在认知网络中更加严峻。利用无线信道的衰落和叠加等特性,通过信道编码和信号处理等技术,从物理层实现信息安全传输的物理层安全已被认为是一种能够实现绝对安全通信的有效通信手段。协作转发和协作干扰技术能够很好地抵抗窃听节点对信号的窃取,提升无线系统的安全性能。为此,本文针对协作认知无线网络,基于协作转发和协作干扰技术研究了系统的安全传输性能。首先,介绍了物理层安全的基本理论,并进一步说明物理层安全的几个性能指标,最后对物理层安全中的协作转发和协作干扰技术进行了介绍。其次,把非正交多址接入技术(Non-orthogonal Multiple Access,NOMA)应用到认知无线网络中,提出基于中继协作转发的底层认知NOMA系统模型。在瑞利衰落信道下,考虑一个两跳的通信网络,认知中继同时接收来自主网络源节点和次网络源节点发射的信号,并采用串行干扰消除技术解码转发接收到的信号。次级网络通过为主网络提供中继解码转发服务,获得接入授权频谱的机会;主网络通过贡献出授权频谱,换取次级网络协作通信的机会,同时获得了优先解码权,保证了主网络通信的可靠性。推导了系统各个目的节点处的中断概率闭合表达式,并进行了MATLAB仿真。仿真结果表明:采用中继协作转发可以有效提升认知NOMA网络的中断概率性能。最后,提出一种新型的主网络和次级网络协作通信模式,次级网络的源节点和目的节点被视为主网络额外的两个中继节点,与主网络的中继节点一起为主网络通信提供协作转发和协作干扰服务,以提升主网络的物理层安全传输性能。作为协作回报,次级用户可接入主网络授权频谱完成通信,主网络中继节点为次级用户通信提供协作转发服务。由于时隙的划分,本文体制下的次级网络通信不会对主网络产生干扰。分别分析了次级网络的中断概率和遍历容量,主网络的安全中断概率和遍历安全容量,并进行了MATLAB仿真。数值结果表明:与传统非协作策略和协作无人工干扰策略相比,基于协作转发和协作干扰策略可以有效提升系统的物理层安全性能。本文通过利用中继协作转发和协作干扰技术对协作认知无线网络的物理层安全性能建模与分析,得出系统安全性能关系式,为认知无线网络的设计与布网提供必要的参考价值。