移动终端对于高数据速率需求的迅猛增长,使得如何提高现有频谱利用率以及提供额外的频谱分配成为亟待解决的问题。认知无线电技术和协作传输技术作为解决上述问题有效且具有前景的技术,得到了广泛的关注和研究。认知无线电技术通过动态的频谱接入,即通过让认知用户接入到空闲的授权信道,在获得额外的频谱分配的同时,也成为提高现有频谱利用率的重要方法之一。而基于中继网络的协作传输技术,通过协助通信源端转发信息至通信目的端使得系统的频谱效率得到提高并且能够扩大系统的覆盖范围。为了进一步提高系统频谱效率,本论文对认知无线电网络以及协作传输网络中的资源优化策略进行了深入研究。其中本论文的主要工作集中在以下五个方面：1.分布式多信道认知无线电系统的空闲信道利用率分析。在分布式网络不存在中央控制信道的条件下,分布式认知无线电系统的空闲信道利用率受频谱检测策略和数据包接入策略的影响。为了研究认知用户最优频谱检测数量和数据包发送速率,本论文针对分布式多信道随机接入的认知系统,提出了固定时长检测策略,即网络中的每个认知用户随机选择固定数量的频谱(信道)进行检测,然后随机选择任一个所检测到的空闲信道进行接入,并将这种针对于多用户随机接入机制定义为时隙化机会aloha接入策略。基于上述模型,本文对空闲信道的接入概率进行了推导从而得到了理想信道检测条件下,认知用户进行频谱检测数量的取值范围。基于此结果,本文继续推导了数据包成功发送概率从而得到系统平均空闲信道利用率的表达式。文中通过仿真对分析结果进行了验证,并且给出了调整信道检测数量和数据包发送概率,以及认知用户相对于授权用户的距离对系统空闲信道利用率的影响。2.多用户多信道基于Aloha的认知无线电系统的吞吐量分析与优化。为了能够进一步量化信道检测数量与数据包发送对空闲信道的利用率。首先,基于固定时长检测策略,本文继续分别推导了系统中空闲信道数量为固定和随机两种情况下的平均系统吞吐量。基于分析结果,文中给出了平均系统吞吐量与信道检测数量之间的关系。并建立了联合优化问题从而获得最大化系统吞吐量的认知用户最优频谱检测数量和数据包发送速率。文中通过仿真对所推导的最优化结果进行了验证。其次,根据所推导的系统吞吐量对认知用户数量和空闲信道数量的依赖性,在不存在中央控制信道的分布式系统中,认知用户数量和空闲信道数量等系统参数在接入认知用户端处通常是未知的。因此,基于固定时长检测策略,本文提出了一种新型用于进行认知无线电系统参数估计的方法。其中所得到的估计结果可以作为调整信道检测数量和数据包接入速率的参考,从而最大化系统吞吐量。文中通过仿真进一步验证了此估计方法的性能。3.多信道自组织(Ad hoc)认知网络的可达速率分析。本文考虑了在有限区域存在有限认知用户条件下,多信道ad hoc认知网络的系统可达速率分析。在没有中央控制信道的条件下,网络的可达速率受到频谱检测和接入策略以及网络中认知用户的分布的影响。因此,本文首先对被一定数量认知用户选择的空闲信道数量的分布进行了推导,并得出了认知用户频谱检测数量的范围。其次,本文分析了具有共信道干扰的一对认知用户的平均可达速率。从而得到了网络的平均可达速率。文中通过仿真对网络平均可达速率进行了验证,并给出了最优信道检测数量与系统空闲信道数量以及认知用户数量的关系。4.基于正交频分复用的单用户中继系统的协作策略优化。首先,针对现有存在的经典中继转发方式,本文考虑了两跳基于正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)的三节点中继链路模型并推导了混合转发(Hybrid Forward, HF)中继系统的系统容量。本文考虑了两种功率受限条件,并针对每一个功率限制条件提出了在HF中继中通过比较每个载波对上的容量的转发方式选择方案。基于上述选择方案,源端和中继端能够根据信道状态为每个载波对选择最佳的转发方式。为了最大化系统容量,本文推导了在中继功率受限和联合功率受限两类约束条件下的最优功率分配。通过仿真,可以看出HF中继在提高系统容量方面相对于其他传统中继的优势。其次,本文考虑了基于中继的四节点正交频分多址接入(Orthogonal Frequency Division Multiple Access, OFDMA)系统模型。通过应用割集定理,推导得到了半双工中继系统中采用连续转发(Successive Relaying, SUR)策略时系统可达速率的上界。基于此表达式,通过采用对偶函数分解法以及次梯度算法,本文得到在载波和功率联合分配条件下的最优系统可达速率。进一步,通过应用第三代合作伙伴计划长期演进增强系统中所使用的路损模型,本文对SUR和并行转发(Simultaneous Relaying, SIR)进行了性能比较。通过仿真可以发现,在中继对称模型下,采用SUR策略的可达速率高于采用SIR策略,并随着信噪比的增加提高的优势得到进一步扩大。5. OFDMA协同网络中基于用户分类的联合资源分配。在OFDMA协同网络下行传输中,针对网络中基站协同用户与中继用户共存的情况,本文对多用户的资源分配和中继选择的联合优化问题进行了研究。文中首先提出了基于用户侧可靠接收信噪比门限的用户分类方法,用以区分网络中的基站协同用户和中继用户。基于分类的结果,对两类用户共存情况下的网络加权数据速率进行了分析,并将其作为优化目标。该优化分为两个步骤：给定载波分配下的最优功率分配和载波分配与中继选择的联合优化。最后,通过仿真验证了优化问题的分析结果,并给出了网络中用户的公平性与网络总数据速率之间的折中关系。