率失真理论研宄在限定失真的情况下，为了恢复信源符号所必需的信息率。如果信源输出的信息率大于信道的传输能力，就必须对信源进行压缩，但同时要保证压缩所引入的失真不超过预先规定的限度。由于数字视频的信息量巨大，如何有效地存储视频信息以及在有限的带宽下对其进行传输及应用是一个亟待解决的问题。因此视频图像压缩技术成为一个重要且有效的手段。作为视频编码中率失真优化的理论依据，率失真定理被广泛地研宄。本文着重分析了率失真理论和率失真模型的建模方法，刨新性地分析了H.264／Avc码率提案中采用的二次率失真模型误差并提出了新的联合率失真模型。针对帧编码复杂度在率失真模型中的作用及其对码率控制算法性能的影响，提出了新的I.帧和P.帧编码复杂度模型及相应的帧间和帧内码率控制算法。大量且广泛的实验测试数据表明，新的码率控制算法能够有效地控制虚拟缓冲区，精确地达到目标输出比特率，明显地减少不期望的跳帧，在提高视觉质量的同时也保持了视觉质量的平滑稳定。全文的主要的刨新和研宄成果包括：1．视频编码率失真模型及率失真特性分析，从理论及实验验证方面着重分析了二次率失真模型的误差。包括二次模型误差，MAD正比模型误差及JVT-G012提案中线性跟踪模型预测误差三个方面，并进行大量拟合实验。更进一步，分析了新的指数型率失真模型特性，为联合率失真模型的提出提供了理论基础。2．提出了两种帧编码复杂度模型。针对I一帧和P一帧不同的帧特性，由于I.帧编码采用帧内预测，因此其编码复杂度通过直接统计像素点平均几何梯度值获得；对P.帧编码复杂度通过五种预测方式进行预测，模型根据编码效果优化选择性能最好的一种作为当前帧编码复杂度并进行编码。实验表明新的I.帧及P.帧编码复杂度模型均较高地拟合了实际的编码帧复杂度。3．在帧编码复杂度R-c《Rate—complexity)模型和指数型R-Q《Rate—Quantization)模型基础上，提出一种联合率失真模型并分析其新特性。由于指数模型具有求导不变性，根据联合模型的一阶全微分，简化了模型参数并获得了模型参数的更新方法。三维图进一步验证了联合率失真模型中R-c和R-Q部分的关系分别满足线性及指数函数关系。4．针对I一帧编码计算及延迟小的优点，提出了全I一帧编码码率控制算法，算法在H．264／Avc标准的参考软件平台JMl3-2上编码实现并和首次提出全I一帧编码的Ⅳ_r_w042算法进行性能比较，获得了更精确的缓冲区控制及更高的解码后视觉质量。5．提出了基于优化选择的帧编码复杂度模型和联合率失真模型的P.帧编码码率控制算法。给出了全文模型算法实现的参数配置及编码器参数配置，并给出了实现记录结果。本文提出的帧间码率控制算法同样获得了较高的视觉质量。