随着现有无线频谱资源越来越不能满足人们日益增长的数据传输速度的需求,人们不得不开发新的技术提高频段的频谱利用率。全双工无线通信就是提高频段利用率的一种有效的方法,它可以大大提高现有的频谱的频段利用率。相比于传统的半双工通信,全双工无线通信的特点是,收发同时进行。此外,频谱感知网络也是解决这个问题的方法之一。频谱感知就是,频段不足的用户在不影响其他频段充足但利用率不高的用户的前提下,暂时占用频谱利用率较低的频段资源来发送自已的数据,从而提高网络的性能的方法。本文首先介绍了全双工无线通信系统的基本原理。全双工无线通信系统在实现的时候遇到的困难之一是自干扰。由于全双工无线系统收发同时进行,相比于半双工无线通信系统,又多了一个来自于系统自身的干扰,对于收发同时进行的接收机来说,系统本身发射的功率又是对系统本身的接收天线的干扰,而且发射功率越大,自干扰就越大,全双工无线通信就越难以实现。已经有不少学者研究了自干扰的干扰消除技术,然而在他们的研究中,往往使用瑞利信道模拟系统的自干扰信道,而本文使用了可以更好的模拟系统自干扰信道的Nakagami-m信道,本文不仅得到了通信系统的虚警概率,检测概率以及系统吞吐量的闭式解,而且通过仿真验证了本文的闭式解的正确性。其次,为了进一步提高系统感知的准确性,本文又在原来的非时隙化全双工无线通信系统中引入了协作频谱感知。协作频谱感知是指,多个从用户通过感知主用户的工作状态,将自己感知的结果汇报到协作中心,最后协作中心根据多个从用户汇报的结果判断主用户的工作状态,这样感知的结果就更准确。在这个协作系统中,为了降低从用户对参与协作的其他用户造成干扰,本文在这一部分还提出了一种双门限协作判决的算法,降低从用户之间的干扰。接着,本文又研究了一种基于相位差协作感知的算法。相比于传统的能量感知算法,相位差感知算法不需要提前知道主用户的发射功率以及噪声的功率,而且在信噪比较恶劣的情况下,系统性能并不会下降很多。最后,论文在之前双门限判决的基础上,又引入了多门限协作判决算法。最直观的,多门限协作判决算法的每个从用户有多个门限值,判决的结果包含的信息量更大,对于正确判断也有很大的帮助。当信息量大了以后,对于如何处理这些信息,本文提出了两种算法,分别是等概加权的协作算法和基于贝叶斯算法的加权协作算法。关于等概加权的协作算法,本文还得到了检测概率和虚警概率计算的闭式解。通过仿真证明了,本文提出的协作算法不仅性能优于传统的单门限协作判决算法,而且门限数越多,性能就越好。