无线通信服务需求的持续增长,导致对无线频谱资源的需求也不断增加,使得有限的无线频谱资源变得十分稀缺。但研究表明：目前无线频谱资源一方面十分稀缺,另一方面却又浪费严重。其原因在于：静态的频谱分配体制与动态的频谱利用方式之间不匹配,造成无线频谱分配紧张,而利用率却低下。为此,突破频谱共享无线通信系统的相关关键技术,开发频谱资源共享的无线通信系统,从系统级提高无线频谱资源的利用效率成为解决上述矛盾的重要途径,也是今后无线通信的重要发展方向之一。本文主要对频谱共享网络中认知与协同关键技术——“认知协同中继传输技术”和“认知干扰协调技术”从理论上进行深入探讨,旨在完善相应的理论研究。论文首先对认知协同中继系统在瑞利衰落信道下的中断性能展开研究；然后对认知协同中继系统在Nakagami-m衰落信道下的中断性能进行了进一步的探讨；最后针对一类典型的频谱共享网络——共信道配置的分层网络,开展了分层网络中下行认知干扰协调的覆盖与能效性能研究。论文的主要工作和创新在于：1.瑞利衰落信道下认知协同中继系统中断与分集性能的研究论文首先针对频谱共享网络中的认知协同中继系统在瑞利衰落信道下的中断与分集性能开展了研究。通过理论推导获得了瑞利衰落信道下采用不同中继选择协议的认知协同中继系统在有、无峰值发射功率约束下系统中断概率和分集度的精确闭式表达式。在此基础上,进一步研究了系统中断和分集性能与峰值干扰功率约束、峰值发射功率约束、中继数目和中继选择方式之间的关系。研究过程中首次发现,有峰值干扰功率约束的认知协同中继系统第一跳中各接收节点的接收信噪比相关这一重要特征。基于此,提出了一套用于有峰值干扰功率约束的认知协同中继系统中断与分集性能分析的通用框架和计算方法。研究结果表明,峰值干扰功率约束和峰值发射功率约束均会使系统产生中断饱和现象,更多的中继和选择更好的中继进行信号转发则能提高系统的中断性能；峰值干扰功率约束和峰值发射功率约束不会影响系统的分集性能,而更多的中继或选择更好的中继则能获得更好的分集性能。2. Nakagami-m衰落信道下认知协同中继系统中断与分集性能的研究在前面研究的基础上,将对认知协同中继系统中断与分集性能的研究由特殊的瑞利衰落信道扩展到更具有普适意义的Nakagami-m衰落信道。基于前面提出的通用分析框架和计算方法,通过理论推导获得了Nakagami-m衰落信道下有峰值干扰功率约束的认知协同中继系统中断概率与分集度的精确闭式表达式。在此基础上,进一步探究了信道衰落程度对系统中断与分集性能的影响。研究结果表明,在峰值干扰功率约束或峰值发射功率约束较小时,系统的中断性能随信道衰落程度的增加而提高；而在峰值干扰功率约束和峰值发射功率约束均较大时,系统的中断性能则随信道衰落程度的增加而降低。研究结果还表明,系统在Nakagami-m衰落信道下的分集性能除了与中继数目和中继选择方式有关外,还与信道的衰落程度有关,具体表现为：中继信道的衰落程度越低,系统可达的分集性能则越高。3.分层网络中下行认知干扰协调的覆盖与能效性能的研究针对一类典型的频谱共享网络——由宏系统和家庭基站系统组成的共信道配置的分层网络,对分层网络中下行认知干扰协调的覆盖和能效性能进行了深入的研究。首先基于随机几何理论从理论上推导了不同认知干扰协调(包括机会接入式认知干扰协调和空间距离隔离式认知干扰协调)策略下系统覆盖性能的精确闭式表达式；在此基础上,进一步研究了在采用认知干扰协调的分层网络中保证一定覆盖性能前提下使网络能效最优的家庭基站配置方案,探究不同认知干扰协调策略下分层网络的能效性能与相关系统参数和配置方案之间的关系。研究结果表明,分层网络中采用机会接入式认知干扰协调比采用空间距离隔离式认知干扰协调的覆盖性能要更优,但是随着隔离距离的增加,这种优势将逐渐变小。研究结果还表明,当目标覆盖性能高于一定门限值时,系统的最优能效性能随目标覆盖性能的降低而提高；而当目标覆盖性能低于该门限值后,即使降低目标覆盖性能,系统的最优能效性能也保持不变。以上研究成果,分别以学术论文的形式发表在工EEE的相关期刊和会议论文集上