H.264/AVC（Advanced Video Coding，先进视频编码）标准只规定了编解码的语法与框架，对其中各编码模块的具体实现并未做出限制。这样既保证了输出码流的兼容性，也鼓励了在其标准基础上的研究和创造。快速运动估计算法UMHexagonS(Unsymmetrieal-CrossMuti-Hexagon Search，非对称十字型多层次六边形格点搜索算法)是一个基于H.264/AVC的优秀算法，应用广泛。但是该算法对垂直方向运动估计的敏感性与适应性还不够完善，需要进行改善。同时，UMHexagonS作为一种混合型快速运动算法，其编码效率还有提升的空间。　　本文力图在保证编码视频图像质量的前提下，对UMHexagonS算法做出改进，提高其在垂直方向上运动估计性能并进一步提高编码效率，使其适应性更强、应用价值更高。针对以上目标，本文的主要工作如下:　　1.对视频压缩编码的关键技术，H.264/AVC视频编码标准进行了较为系统的研究分析，并在此基础上深入研究了UMHexagonS算法。发现该算法对侧重垂直运动的视频进行运动估计的速度及编码效率方面都存在改善的空间。　　2.通过阅读大量的文献，研究各种运动估计算法。在原算法的Step1（非对称十字型搜索）中增加了8个搜索点来提高其对垂直方向运动的适应性;在原算法Step3（非均匀多层次六边形搜索）中设置了一个与之平行的算法，进一步提高了算法运动估计的性能。另外，为了提高算法的编码效率，减少运动估计时间。对Step2（小矩形窗口全搜索）做出了先进行小菱形轮廓搜索再进行大菱形轮廓搜索的改进;提出三点搜索法来替换原Step4-2（小菱形搜索），而原Step4-2只作为满足提前中止最佳情况的跳转对象存在。　　3.最后，本文将上述改进算法用C语言实现，并整合进入到H.264/AVC的参考模型JM10.1中，采用VC6.0进行编译与测试。在对多种标准视频测试序列进行测试后，结果表明改进算法在重构图像的质量、峰值信噪比PSNR（Peak Signal to Noise Ratio，峰值信噪比）与原UMHexagonS算法接近的情况下，码率得到了有效的降低，提高了压缩比;运动估计时间也有不同程度的减少，有效地提升了编码压缩速度。　　最后本文提出了下一步可以研究的几个方面:起始搜索点预测的优化、帧内预测模式的选择、码率控制以及视频编码算法的嵌入式移植与优化。