基于新的视频压缩编码标准H.264的运动估计研究一直是视频压缩中研究的热点。运动估计算法的效率主要体现在重建图像质量、压缩码率和搜索速度三个方面。运动估计越准确,预测补偿的图像质量越高,补偿的差值就越小,补偿编码所需位数越少,比特率越小,这主要体现为运动估计的搜索精度;运动估计速度越快,越有利于实时应用,这主要体现为运动估计的搜索速度。提高搜索精度,加快搜索速度,是运动估计算法研究的目标。本文深入研究H.264标准的技术特征、运动估计和补偿原理。对经典的三步搜索、新三步搜索、菱形搜索、六边形算法等进行了分析,结合现今国内外的改进方案,总结运动估计算法的改进的方向。本论文对H.264标准中的运动估计算法—UMHexagonS算法进行了详细的分析,对其搜索点数过多的情况和不足之处进行相应的改进:25个点的螺旋搜索没考虑到运动矢量的具体分布情况,修改为9个点螺旋搜索;非均匀多层六边形搜索未利用图像本身的运动特征,搜索点数过多,本论文采用了新的可选择搜索模板来节省搜索点数;非对称十字搜索改为对称十字搜索。对改进算法利用不同运动特征的测试序列进行了测试,在保证PSNRY和位率的基础的同时,编码时间和运动估计时间较原算法有较大的下降。同时也研究国内外针对UMHexagonS算法的改进,并就其中的两种算法进行了比较,本论文的改进算法有更好的效果。