在传统的认知网络中,次级用户由于需要优先保障主用户的通信性能,其自身的通信性能往往会受到限制。认知中继网络通过将协作中继技术引入认知无线环境中,有效地提高了次级系统的覆盖和吞吐量,为上述问题提供了一个很好的解决方案。在认知中继网络中,中继选择技术会大大影响系统的信道容量,同时,由于在认知中继网络中,次级系统的可用资源往往会受到限制,那么如何在中继选择的同时进行高效的资源分配也是需要研究的关键技术之一。因此,本文将针对认知中继网络中的关键技术展开研究。为了进一步提高认知中继系统性能,本文首先研究了全双工认知网络下的单中继选择问题。通过将天线切换技术引入全双工中继节点中,建立了新的认知中继系统模型,并对其端到端信噪比和信道容量进行了推导,在此技术上,将上述系统中的天线选择、中继选择和功率分配建立为一联合优化问题,并通过理论分析得到了功率分配的闭式解,然后设计了一种迭代算法求得联合优化问题的解。该系统模型和算法有效地提高了次级中继系统的信道容量,同时具有较低的算法复杂度。针对认知多中继选择技术复杂度较高的问题,本文研究了认知多中继选择的低复杂度实现方法。首先对认知多中继系统的信噪比和信道容量进行了理论推导,并将多中继选择和功率分配联合成一个联合优化问题。本文首先将中继节点可用功率进行了量化分级,将连续功率分配问题转变为离散功率分配,以降低算法实现复杂度。同时,本文针对前人研究中存在的在中继选择时未充分考虑中继节点造成的干扰的问题,提出了一种基于中继传输效率的启发式中继选择算法。本文所提的算法在有效地降低了多中继选择的实现复杂度的同时,性能也较前人所提算法更接近最优解。仿真结果表明,在合适的参数配置下,本文所提的算法能使得系统信道容量提升12%左右,为多中继技术的应用提供了可行的解决方案。