H.264/AVC是新一代视频压缩标准,是联合视频工作组JVT(Joint Video Team)继MPEG-1/H.262标准后,于2003年3月,再次共同提出的视频编码标准。H.264/AVC标准支持从低带宽、高误码率的无线移动视频通信到高码率、低延迟的视频广播以及在线流媒体等多种应用。由于其广泛应用越来越受到业界的关注。H.264/AVC标准采用了很多新的技术,比如多参考帧预测,多尺寸编码块模式、整数变换量化、1/4像素精度运动矢量、基于内容的熵编码、去方块效应滤波器等等,使之拥有了更高的编码效率。在相同的解码图像效率的条件下,H.264/AVC比MPEG-2和H.263的编码性能提高一倍以上。然而,随之而来H.264/AVC编解码的计算复杂度比其它的视频压缩标准大大增加,高出了几倍甚至几十倍,消耗了大量的时间和系统资源。光运动估计的计算量就占据了H.264/AVC编码计算量的60%以上,因此需要寻找高效的优化方法来提高运动估计的效率,使得运动估计更迅速,更健壮,更高效。运动估计算法的优化一直是视频压缩编解的热点问题。本文主要从实时视频应用的角度出发,对H.264/AVC编码过程中运动估计模块进行了研究。本文的绪论部分介绍了课题的背景、现状引出本文的研究内容；然后分析了视频压缩编码的基本理论；接着论文重点阐述了H.264/AVC视频压缩编码,分析其区别于其它的视频编码标准的技术特点；而后回顾和分析了全搜索法、三步法、新三步法、四步法、菱形搜索法和六边形法等各种经典的快速运动估计算法的各自特点和优点。第五章和第六章是本论文的核心部分。本文的第五章首先分析了自然视频序列中运行矢量的特点以及最新的扁六边形模板的优点；然后给出H.264/AVC标准中采用的率失真优化理论；最后详细分析了最新的EPZS的算法。在此基础上,本文的结合各种快速算法的优点和最新的搜索模板提出了新的搜索算法,主要分为以下几部分：1、保留EPZS的预测向量集合步骤；2、选出预测向量中的最佳和次佳点的矢量,然后通过新型的扁六边形模板或大六边形模板进行搜索,或用非对称十字定位；3、对所得的运行矢量进行精细化的出最优的运行矢量。其中,我们修改了提前终止的条件。最后,论文给出新算法在PC上的软件验证效果,跟原来的EPZS的性能相比,在基本不影响图像质量和码率的情况下,软件模拟得到,对大部分视频新算法比EPSZ算法的速度提高10%以上,最低的也提高了7%倍,实现了优化的效果。