H.264/AVC是ITU-T VCEG和ISO/IEC MPEG联合制定的最新的视频编码国际标准，是目前图像通信研究领域的热点问题之一。与以往的视频编码标准相比，H.264具有更好的压缩性能和网络友好性,可以被广泛应用于实时类应用（视频电话，移动视频）和非实时类应用（存储，广播或者流媒体）场合。但是编码效率的提高是以复杂度的成倍增加为代价的，这就使得H.264在实时的视频编码及传输应用中面临着巨大的挑战。本文的研究工作面向H.264算法的优化和实现。本文提出了新的帧间预测算法，在保持基本相似的PSNR和比特率的情况下大幅度提高了编码速度，并且探索了在资源有限的DSP平台上H.264编码器实现的有效途径，具有较强的实用价值。纵观本文，主要包含以下内容： 本文首先介绍了各种国际视频编码标准，就H.264编码器的实现方案进行了探讨，总结了H.264编码器DSP实现的研究现状以及所面临的挑战。 然后本文详细介绍了H.264标准的各种新的特性，将H.264标准的性能与以前的视频编码标准进行了比较，分析了H.264编解码器的复杂度，指出了复杂度过高是H.264未被广泛应用的主要因素之一。 接着，根据对算法复杂度的分析，本文对帧间预测算法进行了优化。首先分析了帧间预测算法中的率失真优化方法以及宏块划分方法，得出必须在保持尽可能多的模式下降低帧间预测的复杂度。然后介绍了传统的全模式预测算法以及学者们在快速帧间预测方面进行的研究工作。之后，本文提出了一种新的快速模式预测算法，这种算法在两点上改进了全模式预测算法：SKIP模式预判和根据残差的SAD以及宏块的运动特点来对宏块进行分类。实验结果表明，该算法在保持PSNR和比特率的前提下，将帧间预测的速度提高了79.74％。 接着，本文介绍TMS320DM642平台的特点，详细分析了它的CPU结构、存储器结构、流水线结构、DMA和EDMA结构。熟悉其特性有助于在这个平台上实现H.264编码器。 本文然后介绍了H.264编码器在DM642上实现的具体过程。这个过程包括5个步骤：编码器特性选择、PC上的算法优化、代码移植和DSP系统配置、基于DSP平台的C代码优化和汇编代码级优化。本文在对这五个步骤进行了详细的分析以后，具体分析了基于DM642的H.264编码器的性能。 实验数据表明，该编码器在对CIF视频进行编码时，能够在保持原有PSNR以及码率的前提下达到5帧每秒的速度。