在人们对高速无线通信服务需求的驱动下,无线通信技术呈现出日新月异的发展,各种无线应用和无线设备也层出不穷。然而,频谱资源紧张以及无线链路可靠性降低等问题已成为制约当前无线通信发展的最主要因素。为了克服上述问题,各种先进的无线通信技术也应运而生,其中最具有代表性的是协作中继技术与认知无线电技术。尽管协作中继技术能够提高系统的抗衰落性能,认知无线电技术可以提高无线频谱的利用效率,但都无法独立解决当前无线通信发展所面临的问题。基于此,本论文考虑了认知无线电技术与协作中继技术的融合,即将协作中继技术引入到认知无线网络中,构成认知中继网络。认知中继网络集成了认知无线电技术的高效频谱利用率与协作中继技术的高分集增益的优势,为达到同时提高频谱利用率与提高无线链路可靠性等目标提供了一种可行的解决方案。本论文研究认知中继网络中的高效性协作传输技术,重点研究提高协作效率或分集性能的方法,旨在对协作中继技术在认知无线网络中的应用进行理论性探索,对以中继选择与功率分配为代表的无线资源管理提供理论与算法支撑。概括地讲,本论文的研究内容主要体现在以下几个方面：1)认知双向中继网络的高能效协作传输技术研究现有针对认知中继网络的协作传输研究主要是以吞吐量、中断概率、SINR均衡及MSE性能为设计目标,能效方面的研究还相对缺乏。而对于资源受限的认知中继网络而言,系统传输能效问题的研究则显得更加重要与迫切。因此,本文基于物理层网络编码译码转发以及放大转发协作方式,研究了重叠式频谱共享下认知双向中继网络的高能效协作传输问题。首先,针对单用户传输的场景,利用凸优化理论推导出满足重叠式频谱共享接入条件下,基于高信噪比近似的最优功率分配闭式解,同时提出了能效联合中继选择与功率分配算法。仿真表明,与传统基于单向中继吞吐量最优的方案及随机中继选择方案相比,提出的能效联合中继选择与功率分配算法提高了系统的能量效率。此外,在多用户传输的场景下,规划了重叠式频谱共享模式下的联合带宽和功率分配优化问题,并通过等效的参数转换与凸优化技术求解了该优化问题,同时提出了能效联合带宽与功率分配算法。仿真表明,与基于吞吐量最优的方案以及等带宽等功率分配方案相比,提出的能效联合带宽与功率分配方案提高了系统的能量效率。2)认知双向中继网络的协作传输性能研究性能分析是认知中继网络的基础性研究问题,也是目前的研究热点,然而,尽管作为一种高效的传输方式,物理层网络编码双向中继在认知中继网络中的应用越来越受到重视,但关于其性能的研究还缺乏。因此,基于重叠式频谱共享与译码转发方式,本章运用信息论的相关原理及概率分析方法,研究了基于物理层网络编码双向中继的认知协作传输性能,同时还针对两种典型的协作方式进行了分析。在单中继译码转发方式下,推导出认知用户中断概率的精确闭式解,以及采用二进制相移键控调制下平均均值误比特率的渐近紧的上下限,并且分析了不同中继位置以及干扰温度门限对中断概率的影响；在多中继机会选择方式下,本章基于最大最小的机会中继选择准则,推导了认知双向中继网络的中断概率在固定速率门限与高信噪比下的闭式解。仿真验证了理论分析的正确性,并且研究还表明,与传统的网络编码协作方案相比,物理层网络编码方案在干扰温度门限值较大或速率门限值较小条件下的中断性能优势更加明显。3)基于多天线技术增强的认知协作传输中断研究鉴于多天线技术具有可观的天线分集增益,目前认知协作传输也更倾向于采用多天线技术。其中最值得关注的是,采用正交空时编码传输可以获得满分集增益,因此,本文基于正交空时编码与译码转发方式,研究了重叠式频谱共享下基于多天线技术增强的认知协作传输中断性能,同时还针对两种不同的中继工作方式进行了分析。在半双工中继方式下,针对已有的性能研究主要采用瑞利衰落信道模型,不足以反映实际信道的衰落参数对中断性能的影响,因而本文基于更具普适意义的Nakagami-m信道模型研究了数据传输链路以及认知干扰链路的衰落对中断性能的影响,推导出认知半双工中继网络的中断概率的闭式解。在全双工中继方式下,本文提出了一种适用于认知全双工中继网络的性能分析模型,模型中综合考虑了回传干扰,传输干扰以及主用户干扰与干扰温度约束等因素对系统性能的影响。并且基于此模型,以最小化认知全双工中继网络的中断概率为目标,利用凸优化理论,推导出满足重叠式频谱共享接入条件下最优功率分配的闭式解。同时,还利用概率分析方法,获得了认知全双工中继网络在干扰受限与噪声受限场景下的中断概率的闭式解。研究结果表明,与传统的半双工中继方式相比,全双工中继方式在自干扰链路的信道条件比较差或者严格干扰温度约束的条件下,具有更优的中断性能。并且还表明,与均值功率分配方法相比,最优功率分配能进一步提升认知全双工中继网络的中断性能。通过全文的研究可看出：在认知中继网络中,针对特定的协作传输场景,通过选择合适的协作策略以及无线资源的优化配置(如中继节点选择、功率控制、带宽分配)能够有效地利用时域、功率域及空间域等多维特性,使得认知协作传输的性能或能量效率得到大幅提升。