本文主要分析了新一代视频压缩编码标准H.264中的运动估计算法，并特别针对运动估计算法中的经典算法--整像素UMHexagonS算法进行了研究与改进。经过对整像素UMHexagonS搜索算法深入地研究之后发现，UMHexagonS算法的综合性能虽然比较优越，但是仍然存在着运算量大、复杂度高、搜索点数较多等缺点。对该算法中存在的一些不足之处，本文首先从可行性的理论上提出了一些优化及改进方法：一方面为了减少运算量和降低复杂度，对该算法的起始预测点进行了优化，并且对提前终止策略进行了改进；另一方面为了减少搜索点数，本文采用了菱-八边形搜索模板替代螺旋搜索模板，和采用多层次八边形搜索模板替代多层次六边形搜索模板的方法，而后为了进一步减少搜索点数，提出一种象限区域分割方法。优化及改进后的UMHexagonS算法在整个搜索过程中可以明显地减少运动估计时间，并能得到较好的运动矢量搜索效果。最后，对改进后的UMHexagonS算法进行了仿真实验，来验证算法改进后的性能效果。运用H.264参考软件模型JM10.1，经过VC++6.0编译，实现该算法，通过对小运动、中等运动和大运动特点的视频图像测试序列进行仿真实验后证明，优化及改进后的UMHexagonS算法与原算法相比，在PSNR-Y、码率和重构图像质量基本不变的情况下，运动估计所花费的时间减少了17%-30%，明显降低了运算的复杂度，提高了编码的效率。