H.264是目前流行的视频压缩编码国际标准,基于H.264的运动估计研究一直是视频压缩中研究的热点。与以往的标准如MPEG-1/2/4及H.261/H.263相比,H.264的编码效率有了大幅度的提高。在获得高性能的同时,H.264算法是以高复杂度为代价的。为了提高搜索精度,加快搜索速度,需要对其进行优化。在H.264中,运动估计是运算量最大的部分,对运动估计算法的研究是本文的主要目的。本文首先介绍了课题的背景、现状以及研究内容,然后阐述了H.264视频编码标准,分析其技术特点,如多种帧内预测模式、可变尺寸块大小的运动估计与补偿、多帧参考、4×4整数变换等。在对现有的搜索算法进行分析的基础上,提出了一种改进的快速块匹配算法——三重十字形搜索算法。通过仿真实验测试,将改进后的新算法与全搜索算法和菱形搜索算法在搜索点数和成像质量方面进行比较,结果显示改进后的算法有更好的效果。最后,通过对H.264运动估计的进一步研究,提出了一套运动估计优化方案,包括宏块动态划分、预处理方法和自适应搜索模板。在H.264标准测试软件JM8.6模型上,结合改进后的新算法进行测试。实验结果表明,在保证视频质量和压缩率不受明显影响的情况下,运动估计优化方案相对于原算法过程,速度提高了三倍左右。