飞速发展的无线通信业务对频谱利用率和传输速率提出了更高的要求,频谱资源共享和多节点协作传输成为新一代无线通信的核心技术。认知无线电技术允许次用户接入并使用主用户的授权频段,充分利用有限的无线电频谱资源实现主用户与次用户之间的频谱共享,为缓解频谱利用率低下和日益增长的无线应用之间的矛盾提供了有效的解决方案。协作中继传输技术通过多个节点之间相互协作形成虚拟多输入多输出阵列从而提高传输速率、增加通信覆盖范围。将协作中继传输技术应用于认知无线电网络中可以有效改善认知次用户的感知和传输性能。在频谱共享的认知协作中继传输中,通过认知次用户源节点与中继节点协作通信来缓解因主用户干扰的限制引起的系统性能下降问题。认知协作中继传输技术充分利用空间协作分集和频谱共享提高认知无线电网络的端到端性能。然而,为了避免主用户的通信质量被影响,次用户网络中发射节点的发射功率必须受到一定的限制,因此认知协作中继传输理论和分析方法不同于传统的无线协作中继传输。鉴于此,本论文对潜伏式频谱共享场景中的认知协作中继传输性能进行了研究和分析,主要内容和贡献包括以下几个方面:首先,研究存在单个主用户发射机干扰和多个主用户发射机干扰时的潜伏式认知协作中继传输,在保证主用户的正常通信不被干扰的前提条件下,设计主用户发射机和接收机共存时基于信号-干扰噪声比的中继选择策略,最大限度提升认知次用户性能。深入研究瑞利衰落信道下选择协作和递增中继传输,通过理论推导定量衡量潜伏式频谱共享环境下选择协作与递增中继的中断性能差,表明存在多个主用户发射机时认知协作中继网络不能获得分集增益。其次,研究潜伏式认知多源多中继协作传输,针对存在单个主用户接收机和多个主用户发射机及多个主用户接收机的场景分别提出最优和次优的“源-中继”选择策略,分析所提方案在瑞利衰落环境下的中断性能。基于次用户最大发射功率和单个主用户接收机干扰功率的联合限制,推导所提最优“源-中继”选择策略中断概率的精确表达式和渐近表达式,理论结果表明次用户直接传输链路可用时认知网络可以同时获得多用户分集增益和协作分集增益。为进一步研究多个主用户发射机和多个主用户接收机对认知多源多中继协作传输的影响,提出一种基于多个主用户中断限制的自适应功率控制方法,讨论不同场景和策略下次用户的中断性能。然后,考虑干扰链路和中继选择链路瞬时信道状态信息的非理想性,研究潜伏式认知协作中继传输的中断概率和干扰概率,实现主用户性能和次用户性能之间的互换和折中。基于次用户发射节点和多个主用户接收机之间干扰链路的瞬时非理想信道状态信息,理论证明次用户的传输总是干扰主用户的通信。为了降低次用户对主用户的干扰,提出一种基于干扰链路统计信道状态信息的功率控制策略,分析次用户的性能及次用户对主用户的干扰,结果表明所提方法在保证次用户性能的同时远远降低了次用户对主用户的干扰。最后,研究基于发射节点和接收节点硬件损伤的认知协作中继传输,构建存在节点硬件损伤时认知次用户的性能分析方法,为实际认知中继网络的设计奠定理论基础。联合考虑次用户最大发射功率、单个主用户接收机干扰功率的限制和节点硬件损伤对发射信号、接收信号的影响,得出次用户直接传输链路不可用和次用户目的节点采用选择合并技术合并接收到的信号时认知协作中继传输精确的中断概率表达式和系统的分集阶数,理论分析结果表明节点硬件损伤不影响认知协作中继传输的分集增益。