H.264是新一代的视频编码标准。相对于以往的视频编码标准，H.264采用了多种新的技术，包括多参考帧模型，可变尺寸块的运动补偿，四分之一像素精度的运动补偿，加权预测等。这使得H.264具有更优的编码效率，同时也增加了计算复杂度。运动估计是视频编码中相当重要的部分，同时也是最耗时的部分，所以运动估计算法的效率直接决定了整个编码系统的效率。因此有必要对运动估计算法进行深入的研究及改进。本文详细论述了H.264视频编码标准的基本原理和关键技术，在深入研究运动估计算法发展现状的基础上，介绍了几种常见的运动估计优化策略及其对应的典型快速运动估计算法，并分析了它们的优缺点。本文对UMHexagonS算法进行了详细的介绍，并分析了该算法存在的三处问题，针对这些问题，提出了改进的UMHexagonS算法，分别对提前终止阈值、搜索窗口大小以及搜索模式提出了3种动态模型，提高了算法的自适应性。对六种不同运动程度的视频序列进行了测试，实验结果表明，优化后的算法相对于原来的UMHexagonS算法平均减少了21.67%的编码时间以及47.49%的运动估计时间，同时只有0.02的峰值信噪比下降以及1.69%的比特率增加。综合考虑各种运动估计优化策略，本文提出了一种动态模式的快速运动估计算法，该算法通过判断宏块的运动大小及运动方向选择相应的搜索模式；同时对标准中的中值预测进行了改进并提出了一种动态的参考块提前跳过策略。实验结果表明，该算法在保持良好的率失真性能的基础上，减少了运动估计时间，相对于快速全搜索算法（FFS）以及UMHexagonS算法，该算法分别减少了85.28%和35.29%的运动估计时间。