2003年3月,ITU-T VCEG和ISO/IEC MPEG联合发布了最新的视频压缩标准H.264/AVC。H.264/AVC在编码效率、网络亲和性及应用领域等各方面都有着相当大的优势,因此日益受到业界的关注。码率控制作为视频编码中的重要部分,它的目的在于使编码输出比特率满足特定目标比特率的同时,获得尽可能好的编码质量。在分析了H.264/AVC码率控制算法G012的基础上,本文主要针对以下三个Frame层的码率控制问题进行了研究:1. G012在Frame层的比特分配中始终体现了平均分配的思想,对于运动量小和没有场景切换的信源,也就是各帧的复杂度相近的情形,会起到很好的效果。但在运动剧烈或者场景切换时,各帧的复杂度相差较大,要获得平滑的图像质量所需要的比特也相差很大,这时G012的效果有所下降。本文采用一个场景切换因子作为场景切换和运动程度的度量,并根据该因子自适应地调整分配给各P帧的比特,以弥补G012比特平均分配的不足;2. G012在处理含B帧的GOP时,GOP中部和尾部比特分配不均,这不仅导致尾部由于缺少比特而编码质量严重下降,而且使实际码率总是高出目标码率不少,本文通过引入Sub-GOP来分析其中的原因– GOP中后部过高的目标缓存占有率,并进行相应的改进;3.分级B帧是在G012后提出了新的编码工具,能很好地提高编码效率,本文分析了分级B帧编码结构中GOP的统计特性,对B帧进行精细划分建模,以获得更准确的比特分配,同时改进了B帧量化参数的计算方法,以更大程度地利用分级B帧编码结构增强的时间相关性。