随着无线业务的快速增长,对频谱资源的高需求和目前固定式频谱分配的低效率之间的矛盾也变得越来越尖锐。为解决这一问题,认知无线电技术得到越来越多的关注。认知无线电技术允许次用户(非授权用户)通过频谱感知,得到周围的频谱使用情况,在不影响主用户(授权用户)正常使用的条件下,机会式地接入授权频段,从而极大地提高频谱资源的利用率。目前绝大部分研究都着重关注主用户的服务质量(Quality of Service, QoS)保障。然而,对只能机会式接入的次用户,其业务QoS要求也需要得到保障,这是认知无线电技术实用化的前提。本学位论文针对次用户QoS保障问题,分别从数据包级别(packet level)、会话级别(session level)以及传输层端到端级别(end-to-end level)进行了研究。研究了多次用户多信道认知无线网络中的数据包队列分析及其应用。分析了一些重要的内部因素(认知无线网络本身的传输机制和参数设置)和外部因素(认知无线网络所处的无线传播环境)对目标次用户的数据包队列的影响。建立了认知无线网络队列分析的框架,将频谱感知、媒体接入控制和链路自适应技术等实际因素考虑进来。通过将排队过程模拟为一个有限状态马尔科夫链(Finite State Markov Chain, FSMC)、推导了平均队长、溢出丢包率和碰撞丢包率等关键队列参数的解析表达式,进而得到了平均时延、丢包率和有效吞吐量等重要的QoS参数的解析表达式。这些表达式清晰地揭示了上述内外部因素对次用户QoS的影响方式和影响程度。在此基础之上,本文以TCP吞吐量最大化问题为例,示范了如何通过适当调整下层传输机制或参数来满足次用户QoS性能需求。研究了认知无线网络中的呼叫准入控制(Call Admission Control, CAC)。首先建立了认知无线网络CAC策略分析的一般性框架,该框架将信道预留、新到次用户缓冲队列、切换次用户缓冲队列以及两种队列中次用户因不耐心而离去等因素囊括进来,使得现有针对认知无线网络CAC策略的分析工作都可以被纳入到该框架下,作为该框架的一个特例而存在。利用该框架,分析了预留信道数、缓存区大小以及次用户耐心程度对次用户会话级QoS(阻塞概率和掉话概率)的影响。其次,针对认知无线网络资源动态性较高、CAC参数须实时调整、现有CAC参数计算方法复杂度很高的现状,研究了低复杂度算法。针对给定阻塞概率要求条件下使掉话概率最小的常见应用,我们用一维马尔科夫链模型代替现用的二维马尔科夫链模型,提出最优预留信道数的一种低复杂度计算方法。得到了最优预留信道数的解析表达式,可用于随着网络资源的动态变化实时地计算最优预留信道数。研究了认知无线网络中的传输层TCP性能建模和增强方法。我们指出,认知无线网络传输层的TCP超时退避机制与下层的传输机制之间存在着复杂的相互作用：一方面,下层长时间的无信道可用会导致TCP的超时退避,另一方面,当传输层处于退避之中,如果下层缓冲区队列已空,则即使有信道可用,下层也会无数据可发,从而造成传输机会的浪费。本文分析了上述相互作用,推导了次用户的有效数据传输时间的表达式。利用该表达式对传统网络的TCP吞吐量模型进行了修正,得到适用于认知无线网络的TCP吞吐量模型。进而,建立了优化问题,分别得到了使有效TCP吞吐量最大和能量效用最大的下层传输参数。可用于针对传输层性能要求进行系统设计和跨层优化。