H.264是由MPEG和VCEG的专家共同组成的联合视频小组JVT(JointVideo Team)共同制定的新一代视频压缩编码国际标准。H.264采用了许多先进的算法,可获得很高的编码效率,尤其适合低宽带、高质量网络视频应用的需要。但是相对于以前的大部分编码标准而言,H.264编码的复杂度却大为提高。如何使编码复杂度降低,更好的提升H.264在低码率高时性应用系统中的实现,必须对其编码算法进行优化。运动估计是视频压缩中的关键技术,决定了视频压缩的效果,是压缩的主要计算开销。因此,寻找一种快速、高效的运动估计算法成了视频压缩领域的研究热点。H.264中,帧间预测采用可变块尺寸的运动估计,本文就以此为出发点,通过对运动估计过程中的各个步骤进行研究分析,在多个环节上进行算法改进,具体内容如下。第一,对高性能块匹配搜索算法进行了研究。系统分析了典型块匹配运动估计算法的基本原理,并通过实验结果进行比较,阐明各个算法的优缺点及适用范围。第二,在结合典型块匹配运动估计算法的优缺点基础上,提出一种新型高效块匹配搜索算法AD(?)S,该算法在不增加计算复杂度的前提下,能获得更好的运动矢量搜索精度,具有更广的适用性。第三,对块的合并与分裂算法进行了研究,提出了一种合并与分裂后块的快速运动矢量搜索算法。该算法能较快较优地获得合并或分裂后块的运动矢量。第四,对可变尺寸的帧间预测模式选择算法进行了优化,提出基于块合并与分裂的快速帧间模式选择算法,该算法能大规模减少模式选择的计算量。最后,进行系统仿真实验,来验证文中的改进算法,通过对实验结果中的数据分析、比较,发现改进后的算法均优于现有的同类算法,实现了预期的研究目标。