更快的传输速率,更高的服务质量一直是无线通信网络发展所追寻的目标,但是有限的无线资源却成为制约无线网络发展的瓶颈问题,因此,更高效更优化的资源分配策略对提高通信系统性能起着至关重要的作用。同时,人们不断的在寻求更有效的新技术来提升网络容量,优化网络性能。协作通信技术、认知无线电技术等新兴技术由于能够进一步提高网络吞吐量和频谱利用率被引入到下一代无线网络中。协作通信技术改变了传统单一的直传模式,通过协作多链路传输产生分集增益,从而提高频谱利用率和传输的可靠性。但是,中继节点的引入,在提高系统性能的同时也带来了如何选择中继节点,中继节点采取何种策略转发的问题。用户间的协作节省了中继站的部署,使得协作变得更灵活。但是选择谁作为协作节点,协作用户之间的资源如何协调,是决定着协作性能的关键。认知无线电技术的引入,打破了当前频谱固定分配的束缚,认知用户通过动态的感知频谱资源,在确保不对授权用户正常通信造成干扰后,机会性的使用可被利用的频谱资源,最大限度提高频谱资源的使用效率。但是,如何有效的利用感知到的可用频谱资源,以何种原则将这些频谱资源分配给认知用户使用,是认知无线电网络中亟待解决的问题。论文重点研究了基于协作和认知技术的下一代无线网络中的资源分配问题。主要研究内容包括两个方而,一是在协作通信网络中,针对多种类型用户(实时业务、非实时业务)同时存在,并且有不同QoS要求的场景,提出基于OFDM的两跳中继协作系统,解决该系统资源分配,包括中继节点、中继转发方式的选择以及子载波和功率分配的问题,在同时满足两类用户的不同QoS的前提下,尽可能的提高整个系统的传输速率。另一方面则是在主次用户以underlay形式共存的认知无线电网络中,考虑主用户对次用户传输的限制及干扰,提出一种次用户间配对协作的基于网络编码的OFDMA协作传输方案,并从用户公平性角度出发,采用纳什议价均衡算法解决传输方案中协作配对用户之间的子载波和功率的均衡分配问题,并在之后将两认知用户扩展到多认知用户的场景,解决多认知用户场景下的协作配对用户选择问题以及完成配对之后的资源分配问题。所提算法在用户公平性和系统速率方面都能达到较高水平。