H.264作为目前国际上最新的视频压缩标准,采用了多参考帧预测、变尺寸块运动估计、1/4像素精度运动匹配、基于上下文自适应的熵编码、小尺寸图像块滤波等技术,来获得更高的编码效率,同时付出的代价是计算量相对于以往的视频压缩标准有了几至十几倍的增加,因此实时视频编码器的实现面临着巨大的挑战,而作为编码器核心的运动估计部分更是需要优化设计的重点,本文主要从实时视频编码应用的角度,对H.264编码器中的运动估计的整数搜索部分和分数搜索部分分别进行了算法优化与硬件实现。首先,在分析了H.264中常用的快速搜索算法的基础上,针对利于硬件实现的三步法进行算法分析,提出了基于初始点预测的、适合硬件实现的改进三步搜索算法,给出了算法的c代码模型,并进一步给出了算法在适应大尺寸图像编码时的搜索路径及相应的性能参数。改进后的三步搜索算法能够获得与业界具有代表性的菱形算法近似的匹配效果,同时仍然保留了三步搜索算法易于硬件实现的9点矩形搜索模板。其次,针对上面提出的改进三步搜索算法,给出了整数像素运动估计实现模块的总体实现架构及其中主要模块的结构,对各模块进行了功能仿真、逻辑综合和功耗分析。在分数运动估计部分,可支持到1/2像素匹配精度,给出了分像素总体实现结构及其中主要模块的实现结构。在运动估计VLSI结构设计的过程中,分别采用了下采样、外扩缓存等方法来优化存储器的面积和减少存储器的操作频率。第三,对运动补偿部分的结构进行了优化,重点对运动补偿中的流水结构、各流水段数据流及缓存安排、H.264和AVS两种协议在运动补偿模块兼容的可行性进行了分析及改进,提出了能够在较小的代价下获得兼容两种协议的运动补偿实现架构。综合结果表明:运动估计模块能够工作在70M的时钟频率下,支持CIF格式、2个参考帧、4种块尺寸、支持率失真优化的整数运动估计及1/2像素运动估计等编码指标。