虽然日益紧缺的频谱资源已成为无线通信产业高速发展的瓶颈，然而大量的实验表明，现有的固定分配频谱资源空间和时间下闲置现象却普遍存在，导致总体利用率低下。在这种情况下，主张动态利用频谱的认知无线电技术应运而生。其具有的主动感知无线通信环境、实时自适应改变系统工作参数及动态检测和机会利用空闲频谱的特性，使重新分配利用拥挤的频谱资源成为可能。认知无线电用户能够机会地利用未被授权用户占用的频谱，并在授权用户出现时及时退出传输，从而实现与授权用户共享资源的目的。与此同时，授权用户的存在为传统通信的排队论问题引入了新的挑战：（1）不同优先级用户排队服务问题；（2）可用频谱资源随时间变化导致的频谱分配管理问题。排队论是一种研究随机服务系统工作的数学理论，它为分析认知系统性能指标（等待时间、排队长度及拥塞程度等）和设计改善服务质量的机制提供了强有力的分析工具。本论文正是针对认知无线电这一新背景下的挑战，基于排队论，在MAC层着眼于分析授权用户行为的统计特性对认知服务系统造成的影响，研究并设计优化机制以期改善认知无线电系统的服务性能。主要研究内容如下：首先，对认知无线电MAC层频谱感知优化问题进行了研究。具体包括：（1）利用更新理论对授权用户行为规律建模，建立了频谱感知周期优化问题，寻找令频谱机会利用率最大的最优感知周期；并引入授权用户受到干扰的概率作为约束条件，以授权用户服务时长为指数分布作为范例，分别在理想感知和非理想感知条件下，分析最优化感知周期与授权用户行为统计特性及感知差错率间的关系。（2）提出了一种基于信道短时特性的主动感知机制，并比较被动和主动感知机制下的搜索延时及能量开销性能；定义能量效率为效用函数，认知用户通过比较效用函数大小，自适应地选择能量效率更优的感知机制。其次，研究了非延时敏感系统中的认知接入控制问题：（1）分析了在占先重返模式下，由于存在授权用户的影响，认知用户从进入系统到服务完成的全程时间的概率分布服从二维分布，为简化运算，提出了一种一维的非占先模型对其近似等效。仿真与数值结果验证了简化模型与二维分布的吻合度较高。（2）提出了一种基于收益的阶梯排队接入策略。认知用户通过接入信道完成服务可获得相应收益，但排队等候的延时会使收入减小；论文中提出的机制令认知用户估计预期收益，选择收益最大的信道进行接入；进而推导得到认知系统用户容量，认知系统不允许超过用户容量的用户接入；最后与现有多个接入机制比较阻塞率和通信中断率性能，仿真结果证明阶梯排队机制能通过调整系统队列系数动态地实施呼叫接入控制，使通信中断率在授权用户活动强度增大时依然保持较低水平。最后，研究了延时敏感系统中的频谱切换问题：（1）定义了频谱切换的两种模式：频谱重返和频谱转移，它们分别对应不同的开销；为了降低认知用户整体频谱切换开销，提出了一种虚拟排队机制实施对认知频谱切换时序的控制，该机制使认知用户优先选择重返来完成频谱切换请求，数值分析与仿真结果均证明与先入先出机制相比，虚拟排队能够显著降低系统平均切换开销。（2）利用分段近似方法给出了虚拟排队机制下的切换延时分布，并推导出相应的切换超时概率与通信中断率性能指标；为保证服务质量通信中断率限制，定义了用户容量作为呼叫接入控制准则；仿真结果证明分段近似方法下得出通信中断率和用户容量与仿真值吻合很好，基于用户容量的呼叫接入控制能够有效保证系统通信中断率要求。论文分析并研究了认知无线电系统中授权用户统计特性对认知用户行为各个方面的影响，提出了基于排队论的多个MAC层优化机制，丰富了现有的认知MAC层技术，具有其理论和实用价值。