5G 无线通信、物联网（Internet of Things,IoT）、人工智能（Artificial Intelligence,AI）、大数据（Big Data）等技术正在塑造一个智慧感知、万物互联、万物智能的世界。新的应用场景中,大规模的终端或各类设备、传感器等纷纷通过无线方式接入网络,网络设备数和容量急剧增长;移动视频和在线直播等应用无处不在,数据传输速率需求成数十倍提升;无人驾驶等技术对网络通信的实时性提出了更苛刻的要求。现有4G无线通信网络,无论在频谱利用率、通信容量、传输速率还是传输延迟等方面都难以满足新型通信服务的要求,新一代5G无线通信技术亟待推出以解决这些困境。在众多无线通信技术中,认知无线电（Cognitive Radio,CR）技术,非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术等,已成为当前研究的热点。认知无线电技术允许非频谱授权用户（又称次级用户）在不影响频谱授权用户通信服务质量（Quality of Service,QoS）的前提下,通过共享频谱授权用户（又称主用户）的频谱完成信息传输,可以有效提升频谱利用率,缓解频谱资源短缺问题;非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术是一种新型多址接入方式,允许多个用户通过合理分配功率来实现时间、频率和扩频码资源的共享,接收端采用串行干扰消除（Successive Interference Cancellation,SIC）等技术恢复信号,提升频谱利用率和通信的可靠性;中继协作传输（Relaying Aided Cooperative Transmission,RACT）技术是一种扩展通信距离的关键技术,采用中继选择策略,选取网络中最佳的中继节点参与协作传输,可以降低发射端功率,提升通信系统传输距离和可靠性。融合以上多项技术,构建认知无线电场景下的基于中继协作的非正交多址接入（Cognitive Radio Non-Orthogonal Multiple Access,CR-NOMA）协作传输模型,正受到业内学者和工程师们的广泛关注。然而,目前CR-NOMA场景中还存在诸多待解决的难题:第一,5G场景中的小区内干扰以及小区间干扰,会较大的影响到通信系统的传输性能,需要寻求改进策略。第二,通信系统通常会存在信道估计误差,信道信息无法完全准确获取,这也会降低通信系统的性能。第三,频谱未授权用户所处的信道环境受到频谱授权用户动态接入造成的干扰,网络传输性能会下降。本文主要创新点如下:（1）构建了多跳中继协作传输模型。针对认知无线电场景下大量中继位置分布随机的状况,提出了一种联合中继选择机制（Joint Relay Selection Mechanism,JRSM）,选取最佳中继参与协作传输;同时,接收端采用最大比合并方案实现最佳信号解调和恢复。基于CR场景下的瑞利衰落信道环境,通过构建和分析次级网络传输时隙结构,详细推导了各阶段接收信号表达式,得到次级系统接收端的中断概率闭合公式;采用蒙特卡洛方法进行信道仿真并与传统传输方案进行比较。仿真结果表明,该多跳中继协作传输模型中,通过采用更加灵活的基于干扰消除的中继选择机制,降低了受到双重功率约束的次级系统的中断概率和能量损耗,提升了次级网络的性能和传输距离。（2）构建了一种CR-NOMA协作传输机制,通过改进信道状态信息感知策略等提升次级网络传输性能。基于所构建的CR-NOMA模型,充分考虑次级网络信道状态信息的不完备性和频谱授权用户对信道状态动态干扰的影响,及时调整解调策略,实现信号的最佳接收和恢复。接下来详细推导出了次级网络接收端中断概率闭合数学表达式,并综合各种影响因素进行了仿真试验。仿真结果表明,由于充分考虑主用户对次级用户网络的实时干扰因素,及时对信道估计误差进行必要的量化分析,并优化接收策略,使得次级传输网络的性能相比传统机制改进明显,达到了较好的预期效果。（3）将中继引入到CR-NOMA协作传输模型中,通过中继协作进一步提升网络传输性能。次级传输系统利用中继协作策略扩大通信传输覆盖度,接收端联合采用串行干扰消除和波束赋形等技术实现最佳信号接收和恢复。仿真结果表明,与传统机制进行比较,本文提出的系统模型不仅可以扩展次级网络传输距离,还可以保证次级网络传输的连续性,并显著降低次级网络系统的中断概率。