随着无线通信业务需求的快速增长,可用的频谱资源变得越来越稀缺,而有些频谱资源利用率低,造成这种现象的一个重要原因是现有的频谱分配方案僵化,认知无线电技术是解决这种僵化分配的有效途径。从信息论的角度,根据系统所需边信息的不同,可将认知无线电系统模型分为三类,即交织模型、衬垫模型与重叠模型。认知无线电重叠模型的核心思想是利用二级用户来协助主用户传输,其中二级用户的传输不受限制,因此它是三者中具有最好系统性能和最高频谱效率的模型。然而,认知重叠模型中的主用户与二级用户之间具体怎么实现频谱共享面临巨大的挑战,因而成为研究的热点。本文研究认知无线重叠模型中的传输策略,以提高系统的中断性能和吞吐量性能为目标,具体针对认知重叠模型的四种可实现场景而展开研究。主要工作和创新点如下：(1)基于两阶段式传输机制的认知重叠模型中二级用户可靠通信传输策略的研究。针对多个二级用户场景,提出了一种基于最佳协作用户选择的两阶段式传输策略。其工作原理：从第一阶段获取主用户信息的二级发射中,选择所有能满足二级系统服务质量的二级发射,再从这些发射中选出一个作为主用户中继来转发信号,中继选择准则使主用户获得最大的信干噪比。充当中继的二级发射在辅助译码转发主用户信号的同时,也进行二级数据传输。本文分析了所提出传输策略中主用户的中断性能,理论与仿真结果表明该传输策略在提高主用户服务质量的同时,也为二级用户提供使用授权频谱的机会。另外,随着二级用户个数的增加,主用户中断性能得到提升。(2)面向多跳系统的认知重叠模型中并行通信传输策略的设计。针对主用户为多跳传输系统的场景,提出了一种基于多个二级用户并行通信的多跳传输策略。主用户数据包由信息源发出后,经过多个译码转发中继成功到达主用户终端,为此本文设计了两种机会路由中继选择方案。二级发射可看作主用户的候选中继,当某二级发射被选为协作中继,系统中其它满足并行通信条件的二级用户可进行二级数据传输,为此本文设计了一种选取并行通信用户的搜索算法。由上述可知,二级发射的存在扩大了主用户中继选择范围,因而给主用户系统引入了多用户分集增益；又二级用户作为协作中继减少了主用户系统能量损耗。理论分析和仿真结果表明当系统中二级用户数大于7时,所提出的传输策略中的主用户和二级系统吞吐量都有提升(3)基于TPSR (Two-Path-Successive-Relaying)传输机制的认知重叠模中的传输策略研究。在多个二级用户竞争主用户频谱资源的场景下,提出了一种基于译码转发和TPSR机制的多用户选择传输策略,其中选择两个二级发射作为纯中继转发主用户数据,以此最优化主用户系统性能。根据TPSR机制的原理,主用户能连续不断地传输不同的信号。若只需保证主用户系统服务质量,性能最优化后的主用户系统能容忍一定量的干扰,利用干扰容忍量来选取第三个二级用户进行二级数据传输。理论分析和仿真结果表明所提出的传输策略具有较好的主用户中断性能,而且在二级用户发射信噪比较小条件下,具有较好的二级用户中断性能。(4)面向ARQ (Automatic-Repeat-reQuest)系统的认知重叠模型中协作干扰管理传输策略的设计。在干扰源为ARQ系统的强干扰环境下,提出一种基于协作干扰管理与频谱接入之间切换的频谱共享策略。其工作思路：二级发射端将所获得的有效的干扰源数据转发给主用户接收端以协助其实现干扰消除,进而提升主用户性能,这种性能提升量即为二级用户收集的信用度。若收集了足够的信用度,系统将切换到频谱接入模式,即实现二级数据通信,此时主用户传输受到干扰而导致其性能下降,其中性能损失量即为二级用户的惩罚度。惩罚度会抵消先前所收集的信用度,当惩罚度等于信用度时,二级用户将进入新一轮信用度收集。本文理论推导两种模式下的主用户系统吞吐量、频谱接入模式下二级用户系统吞吐量、以及整体的主用户和二级用户系统吞吐量。理论与仿真结果表明当主用户系统平均发射信噪比较小时,所提出的传输策略具有较好的主用户吞吐量性能。