随着IPTV、移动视频等新兴视频应用的兴起,视频图像的压缩编码技术取得了长足的发展。H.264/AVC标准是国际电信联盟(ITU)的视频编码专家组和国际标准化组织(ISO)的活动图像专家组联合提出的新一代视频压缩编码国际标准,其集成并扩展了很多视频压缩新技术和新算法。与以前的视频编码标准相比,该标准有着更高的编码效率,并且有更好的网络友好性。本文首先介绍了视频编码技术原理以及视频压缩编码标准的发展历程;接着全面介绍和分析了H.264视频编码标准,详细描述了H.264标准的各项关键技术和模块的原理,以及该标准整体的框架结构,应用范围等信息;然后重点分析H.264标准的帧内预测技术和码率控制技术及其研究现状。帧内预测是H.264标准的主要特色之一,它可以提高编码器的编码性能。在介绍了当前H.264编码器帧内预测模式选择算法的不足后,为了减少帧内编码的时间,本文提出了一种帧内预测模式快速选择算法。该算法采用了亮度色度独立预测的方法,利用宏块直方图以及4×4块DCT变换域的系数找出图像纹理的方向,快速选择出最优预测模式,从而降低了计算量。实验表明,使用该算法可以在保证视频图像总体质量和码率变化不大的前提下,大幅度地提高编码的速率。码率控制算法是视频压缩的重要部分,其目的是调整输出码流的码率,充分利用信道带宽,以便尽可能的保证视频图像的总体质量。本文分析了以往经典码率控制算法的优缺点,并重点研究了H.264的码率控制策略,针对其存在的不足,引入卡尔曼滤波和模糊控制技术,在帧层和宏块层分别提出了改进的方法。实验结果表明,与H.264原有码率控制策略相比,这些方法能更合理的分配各帧的目标比特数,MAD预测也更加精确,从而提高了量化参数预测的准确性,以及码率控制的精度,并使视频图像总体质量有一定程度的提高。