随着无线通信技术的迅速发展,频谱资源变得越来越紧缺,频谱资源的不足成为无线通信发展所面临的瓶颈之一。因此,如何更高效地利用频谱资源成为亟待解决的技术问题。可以同时收发信号的全双工技术与在同一时段只能进行发送或者接收的半双工相比,具有较高的频谱效率;应用了网络编码技术的双向中继传输与传统的单向中继传输相比,可以提高频谱利用率;多载波技术是一项能够提高频谱利用率的重要技术;另外,认知无线电技术也是提高频谱利用率的关键技术。因此,将这些技术结合在一起使用可以充分利用它们的优点,从而进一步提高频谱利用率。本文研究了基于全双工中继网络的资源分配问题,其主要工作概括如下:对基于全双工的双向中继网络中的中继传输功率控制问题进行研究。研究了一个经典的三节点全双工中继网络,提出了针对于不同网络目标下的中继传输功率控制方案,并通过仿真结果证明了所提方案的优越性。对基于多载波的全双工中继网络中的资源分配问题进行研究。在单向全双工中继网络中提出了一个联合功率分配与子载波配对的优化问题。对该问题进行转换,并提出一种迭代算法对其进行求解。最后,通过数值仿真结果验证了所提迭代算法的收敛性以及资源分配方法对系统的性能的提升。将全双工中继技术与认知网络结合,对基于全双工的认知中继网络中的频谱共享问题进行研究。研究了双向认知全双工中继,从节点可进行协作传输和认知传输。提出了一种主系统与从系统共享授权频谱资源的机制,并分析了该机制下主系统和从系统通信传输的中断概率。最后通过仿真验证了所提频谱共享方案的性能以及结论。对基于多载波的认知全双工中继网络中的频谱共享及资源分配问题进行了研究。研究了一个认知无线网络,系统中使用了基于OFDM的双向中继传输方案。提出了一个联合频谱划分、子载波配对以及功率分配的优化问题。论文提出一种有效解决该问题的渐进最优方法,该方法利用对偶域,仅仅只有多项式级复杂度。并提出一种变体的匈牙利算法来解决联合频谱划分和子载波配对的问题。最后通过数值仿真与比较分析证明了所提方案的性能。