视频编码是多媒体关键技术之一，从科研到娱乐的各个领域都扮演着重要的角色。H.264是目前最先进的视频编码标准，包括了许多新提出的视频编码技术。目前,应用最广泛的视频编码标准是MPEG-2，并且在可预见的未来几年仍然有着旺盛的生命力。文中的研究以这两个标准为基础，致力于发现其问题和不足，并设法对其进行改进，提高编码效率和图像质量，尤其是图像的主观质量。 主要的研究成果为：1.传统的静态且固定的关键帧设置和恒定的帧率未能充分发挥预测编码的能力.鉴于此，本文提出了三种改进算法。这三种算法分别是：快速自适应关键帧设置算法、快速自适应可变帧率调节算法、快速自适应关键帧设置与可变帧率调节联合算法。与前人研究的最大区别是，这些算法摒弃了计算量繁重的视频内容分析预处理过程，充分利用现有的编码器在编码过程中产生的信息，使得如自适应关键帧设置和可变帧率调节这类以前必须两次处理才能完成的编码过程可一次完成，从而更加实用和便于推广。实验证明,这些算法是有价值且切实可行的。这些算法可以很容易地在任何基于预测编码的视频编码器上实现。2.文中对环效应和带效应这两种对图像的客观质量影响不大，但对主观质量有明显影响的数字视频压缩痕迹的成因进行了分析，并提出了两种环效应消除算法和一种带效应消除算法。实验结果表明这,几种算法均达到了预期的目标，可在保持客观质量几乎不变的前提下有效地消除压缩痕迹，提高主观质量。这几种算法均不需要改变现有的视频编码标准的码流语法，这使得它们的推广应用更为容易。同时，它们引入的额外计算开销也是可接受的。3.本文还提出了低端应用中图像分辨率与量化精度的权衡准则。该准则不但可以提高图像的主观质量，还能降低解码器的计算开销。