H.264/AVC为近几年来视频压缩编码研究的热点,它于2003年由ITU-T/ISO正式公布,与以往的标准相比,由于其出色的性能,该标准在国际上受到了广泛地重视和欢迎,被人们称为新一代视频编码标准。该标准采用了多种有用的编码技术使其编码效率得到很大的提高。但是与此同时,H.264编码器的复杂度和计算量迅速增长,运动估计消耗大部分的编码时间。于是很多快速运动估计算法相继提出,一些较好的快速搜索算法有三步法(TSS)、四步法(FSS)、梯度下降法(BBGDS)、钻石搜索(DS)、六边形搜索(HEXS)等等,但这些算法在不同程度上容易陷入局部最优。而混合编码算法UMHexagonS则很好的避免了这个问题,并且由于其在运动估计准确度和率失真性能上与全搜索算法(FS)旗鼓相当,但是计算量复杂度却只有全搜索算法的1/10。该算法由于其良好的编码效果和优秀的编码效率而被H.264参考模型JM所采纳。本论文首先简单介绍H.264视频编码标准的基本结构及关键技术。接着分析运动估计的原理、块匹配运动估计搜索算法的工作原理以及块匹配搜索算法的评价方法,在此基础上,详细研究了运动估计的八种经典的快速运动估计搜索算法,重点分析这些快速运动估计法的搜索策略与搜索步骤,并总结了各自的适用范围和优缺点。然后本文针对UMHexagonS的不足之处提出了其可优化的地方。根据真实世界视频图像运动规律,本文提出了一个简单高效的运动估计算法,该算法采用一个扁平六边形模板,包含三个搜索步骤:(1)采用四个预测矢量进行初始点搜索;(2)采用多层次大扁平六边形格点搜索捕捉不规则运动点;(3)采用可预测扁平六边形模版进行精确的搜索。最后还加入了动态窗口的改进。优化后的算法大大减少了搜索点数和计算复杂度,从而降低运动估计时间。通过对各种标准测试序列的实验证明,优化后的算法与UMHexagonS相比,在重建图像信噪比和码率基本不变的情况下,序列运动估计时间节省可高达40.84%,大大提高了编码器的实时性。在一些实时性要求高的场合例如视频通话,视频会议等,具有一定的应用价值。