H.264是国际电信联合会(ITU-T)和国际标准化组织(ISO／IEC)共同研究并发布的下一代视频压缩标准。码率控制是该视频编码中的关键技术之一，其控制效果的好坏直接影响到码流的带宽和图像的质量。由于图像序列中各帧图像的复杂度和运动性大小的非平稳性，导致其压缩编码后的输出码流产生很大的波动，所以需要采用适当的码率控制策略将这种波动控制在一个限定的范围之内。为此，本文针对H.264所采用的主要编码技术中的码率控制算法进行了研究，提出了一种改进的H.264码率控制算法，并通过仿真研究证明了算法的有效性。首先，论文介绍了H.264编码标准的发展及其技术优势，在此基础上分析了其框架结构和核心技术。论述了码率控制技术的背景和基本原理，重点分析了率失真理论。并对经典的码率控制方法进行了论述，介绍了各个码率控制算法的原理。然后，分析了H.264编码标准所采用的码率控制算法，重点讨论了H.264码率控制提案中JVT-G012所提出的码率控制算法，并在JM模型的基础上对其进行仿真和分析。最后，在JVT-G012提案的基础上提出了一种改进的H.264码率控制算法。该算法利用MAD和PSNR计算图像复杂度，并将这种方法应用在基本单元层的码率控制中；另外使用一种新的线性码率-量化参数模型调节量化参数。本文的研究结果表明，改进的码率控制算法很好的解决了MAD不能准确反映图像编码复杂度的事实。而线性码率-量化参数模型能够很好的降低编码复杂度，并能达到更好的编码效果。