自从H.264在2003年被国际标准化组织制定为视频编码标准以来,它凭借着比以往编码标准更优秀的性能而被人们视为新一代的视频压缩编码标准。通过与第一代视频编码标准对比,在相同的图像解码质量条件下,H.264可以节省至少一半的码率。相对于第一代视频编码标准,H.264在一些功能模块上采用了很多先进的技术,例如分层的编码结构即视频编码层(VCL)与网络抽象层(NAL)相分离的编码结构、基于块的运动补偿混合编码、多模式高精度运动估计、先进的帧内预测、整数变换编码及量化等。虽然这些新特性使得H.264的编码性能大大提高,但却是以增加编码复杂度为代价的。本文针对H.264编码器编码复杂度较高的运动估计与模式选择部分做了深入的研究。首先介绍了运动估计的基本原理,包括运动估计的匹配准则以及一些快速搜索算法,并重点分析、研究了UMHexagonS快速搜索算法,对该算法中一些不足的地方如搜索模板固定、搜索步骤固定做了一些改进,提出了一种根据运动方向和运动强度自适应选择搜索模板的快速运动估计方案。其次研究了全零块检测与模式决策理论,推导出一种基于整数变换、量化的全零块检测方法;并在分析一个宏块所需要的编码代价后,在模式决策部分提出一种基于纹理方向性的快速模式选择方法。最后,综合以上几部分的改进,实现了一种自适应方向性搜索与快速模式选择相结合的快速帧间编码方案。通过在参考软件JM10.1上测试结果可以看出所提出的快速帧间编码方案与UMHexagonS算法比,在保持编码效率基本不变条件下能够减少约53%的编码时间,与其他改进算法相比也能够减少约47%的编码时间,实验证明本文方案能获得良好的编码性能。