随着计算机和网络技术在世界范围内的普及应用,人们对信息与通信的需求日益突破地域和时间的限制,对通信内容的需求也由话音和文字拓展到了视频,因此多媒体技术已成为信息与通信领域中最引人注目的发展方向之一,而以视频编码、存储、处理为基础的视频技术更是多媒体技术的核心领域。长期以来,基于变换的数据压缩技术在视频编码应用领域一直占着主导地位。在目前已制定的视频编码的国际标准中,如ISO 组织制定的MPEG-1、MPEG-2 以及MPEG-4 视频压缩标准,ITU-T 组织制定的H.26x 一系列视频编码建议中,全部都采用了基于离散余弦变换的视频编码方法。为了进一步挖掘视频数据编码的潜力,本文首先以变换编码理论为基础,研究能够进一步改善视频压缩效率的变换编码方法,分别实现了基于小波变换和追踪匹配技术的两种不同的视频编码方法,并与H.263、H.26L 的编码结果进行了比较,实验结果表明,两种编码方法都在不同程度上使编码效率得到进一步提高。这两种编码方法的实现,也为本文后续的研究工作建立了实验仿真平台。在视频编码和通信系统中,除了对变换编码方法的研究外,率失真分析及优化方法同样也扮演着关键的角色。其目的是在视频编码数据的网络传输中,进行率失真优化,以便在有限的传输条件下,获得最佳的视觉质量。在传统的率失真分析方法中,码率和失真都是关于量化参数的函数,由于其具有很强的非线性和信源相关性等特征,使其计算非常复杂,并且预测分析误差较大。本文通过大量的实验数据分析,提出变换比的概念,并以变换比为参数,建立了一种新的率失真模型,其中码率函数和失真函数都是关于变换比参数的函数。这种率失真模型的码率函数具有良好的线性特征,而失真函数与信源的相关性较弱。利用这些性质,可以对基于变换的视频编码实现简单、快速、准确、鲁棒地率失真优化。为了将这种率失真模型广泛应用于实际的视频编码系统中,在基于变换比的率失真模型的基础上,先后为基于变换的视频编码提出了通用的率失真曲线预测、码率控制、比特分配优化以及码率整形算法,并在三种视频编码系统中进行了广泛的实验,实验结果进一步验证了所提出的率失真模型及相应算法的准确性和鲁棒性。