如何降低共存系统的干扰，提高频谱的利用率；并保证节点协同工作，降低系统中断概率，实现全分集增益；是认知中继网络研究的关键问题。本文采用随机几何的方法对认知用户产生的累加干扰进行建模和分析，并研究了不同功率分布对累加干扰模型的影响；在存在自干扰的双向中继系统中，利用不等式分析得到了中断概率的下界和多中继情形下系统的分集增益。首先，为了实现主用户网络和认知用户网络的协同共存，需考虑认知用户对主用户产生的累加干扰。通过随机几何理论建立了干扰的累加干扰模型，考虑了单阈值协议和多阈值协议两种不同情况，分析了不同的功率分布对累加干扰模型的影响，并比较了对数正态分布模型与所建模型之间的差异。分析与仿真结果表明，优化的功率分布可以减少认知用户对主用户的干扰，不同的功率分布对累加干扰模型产生的影响是不同的，对数正态分布可以很好的近似累加干扰模型。其次，为了保证双向中继系统信息交互的可靠性，需分析系统的中断概率。在放大前传的技术下，利用信噪比间的关系和调和不等式对信噪比的范围进行优化，得到系统新的中断概率下界，并分析了多中继存在的情况下系统的分集增益。仿真结果表明Monte Carlo仿真得到的中断概率接近于新的中断概率下界；同时证明了多中继存在时，基于最大最小互信息准则的双向中继系统仍然取得全分集增益且能够优化中断概率下界。