在尽可能低的带宽下传输高质量的视频并能适应不同网络的传输要求一直是人们的追求目标,而新一代的视频压缩标准H.264/AVC在相同编码质量下相对于H.263标准能节省50%的码流,且其分层的设计思想提高了编码器对不同网络的亲和性,但H.264的高效性是建立在其实现的高复杂度基础上的,一般的处理平台已经不能满足H.264高计算复杂度的需要。DM642是TI公司新一代高性能数字媒体处理器,是目前实现视频应用系统的理想平台之一。研究H.264标准在DSP上的实现及优化是非常有意义的。本文着眼于H.264编码器的实现,针对算法本身以及DM642硬件平台提出了自己的优化算法。本文主要包含以下内容:在算法研究方面,首先对JM模型进行深入剖析研究,寻找出目前所提出的各主要模块算法中的不足和影响编码速度的瓶颈。进而对瓶颈中的运动估计法和模式选择算法两个方面作出了创新性工作。实验结果表明:改进后的两种算法能在影响编码性能很小的情况下,大幅度提升了编码的运算速度。在DSP实现方面:首先详细讨论了JM86编码器参考模型向DSP平台移植的过程,列举了移植过程中遇到的问题和解决方法,其次针对DSP处理器的结构结合H.264算法特点,在系统层和指令层等方面又进行了进一步的优化。最后给出优化结果并对结果进行比较分析。目前,我们的H.264编码器能够完成QCIF格式图像的实时编码,且解码后的视频图像具有较高的主观质量和客观质量。