H.264视频编解码标准是2003年5月获得批准的新一代视频编解码国际标准。同以往标准相比，它采用了许多新技术，例如1/4,1/8精度的子像素运动估计，多参考帧技术，去块滤波，加强的熵编码，小块的整数变换等来提高编码效果，但这些技术同时也增加了H.264编码器的复杂度，限制了H.264在很多领域尤其是实时领域的应用。H.264优异的编解码性能对于市场具有极大的诱惑力，而研究H.264编解码的快速算法及其实现是H.264走向市场的前提和保证，因此对H.264视频编解码算法进行优化具有十分重要的理论意义和实用价值。 本文首先对H.264标准进行了深入分析，了解H.264语法流的结构，从总体上把握了H.264编码框架，并对其中的关键技术进行分析，确定了影响H.264技术中影响计算复杂度的关键模块。其次，对几种主流的运动搜索算法并进行了介绍和分析，提出一种多方向十字型搜索策略，减少了运算量，提高了搜索速度。再次，通过对编码器各个模块进行分析，我们得到了整个编码器的瓶颈模块，也就是模式选择模块，它极大的影响了实时编码效果，因此，对模式选择模块进行了优化，提出了一种快速模式选择算法，通过改变搜索模式和加速常见模式的搜索过程，从而也就加速了整个编码器的运行。最后一章通过对TMS320DM642DSP(DigitalSignalProcessor)硬件平台进行了介绍，结合DM642的硬件特点，合理配置了存储器资源分配，对DCT模块、运动补偿和变长编码进行了优化研究，并对课题进行了总结和展望。