无线频谱资源是无线通信必需的最重要的资源之一。频谱资源短缺成为了制约当前无线通信技术高速发展的瓶颈。传统固定的频谱分配方式导致了频谱资源利用率低下。在总体频谱资源有限的条件下，提高频谱资源利用率是解决频谱资源短缺的唯一途径。认知无线电技术打破了固定频谱分配的模式，允许非频谱授权用户(次级用户)动态接入频谱授权用户(主用户)暂时未使用的信道进行通信，从而提高已授权频谱资源的利用率，成为了解决频谱资源短缺的重要方法。但是，以往有关认知无线电的研究主要集中在如何解决次级用户和主用户之间的共存以及不同次级用户之间的冲突避免和公平性等问题，而忽略了认知无线电网络中应用层业务的服务质量。具有一定服务质量的业务支撑是保证认知无线电技术健康发展的必要条件。视频业务是当前因特网上最受欢迎的应用，未来视频业务也将最有可能成为认知无线电网络的支撑业务。　　 通信的频谱具有动态特性是认知无线电的重要特征之一。本文以动态频谱环境中视频传输质量为中心，通过采用跨层的方法优化配置网络协议栈中不同层次的参数以求获取最佳的接收端视频质量。比如，在应用层选择了编码的量化步长和帧内更新比例作为优化参数；其次，在传输层优化了TCP友好速率控制协议(TCP friendly rate control，TFRC)的发送速率；最后，针对次级用户感知到的不同可用信道具有不同的特性，以最优化视频质量为目标来优化选择用于通信的信道。本文的主要内容和贡献如下：　　 首先为动态频谱环境中端到端的视频传输质量优化提出了一个跨层优化架构及其相应的仿真实验系统。在认知无线电环境中的视频传输，失真是由编码失真、传输中丢包、解码的错误传递等原因所导致的。在认知无线电环境中，当发生漏检时，次级用户接收到主用户的能量将被当做噪声处理，将会增大视频包的丢失概率。时延是影响视频质量的另外一个重要因素，它相应的是由编码时延、传输时延和解码时延几个不同部分组成，在本文中假设编解码的时延为常数，主要研究传输时延对视频质量的影响。当发牛虚警时，次级用户不能使用实际空闲的信道将带来不必要的时延。为了对这些不同参数进行统一优化，本文在递归式最佳逐像素预估算法(recursive optimal per-pixel estimate，ROPE)的基础上对认知无线电环境中各种因素引起的失真进行了统一描述。然后以最小化端到端视频期望失真为目标，优化配置动态频谱环境下应用层和物理层参数。最后，为了验证这种架构的性能，实现了一种支持动态频谱环境的模拟视频实时编码、实时传输、实时播放的仿真实验系统。　　 第二，结合第一部分所提的跨层优化架构提出了一种优化帧内更新比例和优化帧内编码宏块位置分布的错误控制方法。在视频编码中帧内更新是防止错误传递的重要方法。帧内更新比例越高对误码传递的控制效果越好，但是相应的编码效率越低。本文通过采用实验和理论相结合的方法分析了不同因素，诸如视频内容、信道条件等对帧内更新防止误码传递性能的影响。在这种跨层的帧内更新方法中，跨层优化控制器根据信道条件、视频内容等自适应调节编码的帧内更新比例在编码效率和错误控制能力之间取得平衡，优化了接收端视频质量。　　 第三，TFRC协议是最适合尽力而为多媒体业务的传输层协议。TFRC协议最初是基于有线网络设计的，其在频谱具有动态特性的无线环境，也就是认知无线电环境中的性能处于未知状态。先通过实验分析了认知无线电环境中的信道检测、主用户活动、信道异构性等对TFRC性能的影响，进一步提出一种端到端的方法改进信道切换前后信道容量差异条件下的TFRC性能。最后为了去除无线丢包对TFRC拥塞控制的影响，提出了一种基于跨层优化架构的方法剔除了无线丢包对TFRC丢包事件间隔统计的影响，提高了TFRC的传输效率，优化了视频传输的质量。　　 最后，提出了一种以优化端到端视频质量为目标的认知无线电信道选择方法。在认知无线电环境中，次级用户经常会有多条可用空闲信道可以选择接入。这些信道的特性不尽相同，比如主用户对信道的占用率不同、信道瞬时信噪比存在差异、传输速率不一致等，选择合适的信道有利于提高视频的质量。通过对多信道特性的分析，考虑了主用户对信道占用率、有效传输带宽、信道衰落等信道因素对视频质量的不同影响，从而选择最合适的信道使得接收端视频质量最佳。