随着通信技术快速发展，对多媒体信息的需求越来越多，为了适应多媒体通信、消费类电子产品等对视频应用的更高要求，ITU-T和ISO/IEC合作成立的联合视频组(JVT：JointVideoTeam)推出新一代数字视频压缩编码标准H.264。H.264仍然采用经典的基于块的混合编码方式，主要是采用运动补偿的帧间预测、整数变换和变长编码。 本文介绍了H.264视频编码主要内容及其核心技术。在H.264视频编码标准中，帧间编码采用了多模式运动估计，使得编码器的计算复杂度大大增加。在对开源编码器x264进行帧间性能分析的基础上重点研究了H.264编码器的多编码模式预测算法，采用高效快速的预测算法，并对其做了改进，在编码速度上明显好于x264算法，而编码性能只是略微下降，更符合于实际的应用。 此外，文中还对在Philips公司的TrimediaDSP平台上实现H.264帧间编码进行了初步探讨。将H.264开源编码器x264移植到该DSP平台，结合DSP平台结构与x264源代码结构，分析H.264帧间编码的并行运行算法，并对其进行优化，主要有对运算密集的变换、运动估计进行DSP指令优化，基于DSP平台的多模式预测算法优化实现。 实验表明，本文的优化算法可以明显降低H.264编码器的运算复杂度，基于DSP平台的帧间编码性能优化使编码器运算时间有所降低，为以后进一步研究打下基础。