目前随着数字信号处理器(DSP)的高速发展,为实现高效的音视频信号处理提供了可能性;另一方面,最新的低码率视频压缩标准H.264的出台,提供了适合通信的视频标准和算法指导。因此,将两者结合,把H.264算法在DSP上实现,对于多媒体通信的研究具有一定的意义和价值。H.264工作组推出的JM模型是用于测试H.264定义的相关功能的。代码复杂性较大,没有进行优化之前,远不能实现软件实时编解码的要求。H.264使用率失真优化(RDO,rate-distortion optimization)模型为每个宏块选择最佳编码模式和参考帧。但是这种穷举的搜索算法令H.264的计算复杂度远远高于现有其他标准,无法满足实时视频通信等应用需求,所以必须对算法进行优化以降低复杂度。而对帧内编码进行快速算法优化可以显著地降低整体复杂度。本文对于H.264标准中关于帧内预测算法做了五个方面的改进,并且在TI公司推出的TMS320DM643评估板上实现了符合H.264标准的编码器。在算法方面:采用模式过滤、色度亮度分开编码、模式映射、阈值判决等多种方法对帧内预测算法的性能进行提高,达到了良好效果。在DSP实现方面,做了以下工作:搭建了基于TMS320DM643的H.264编码系统平台,对H.264源代码进行了移植程序级优化,删掉了与基类无关的代码,并对编译选项作了优化设置,通过修改.cmd文件逐步把核心代码调入片内,对采集的图像作了格式转换,对编码后的数据做了处理,并对编码后的数据通过解码进行了检验.实验结果显示解码后的图像质量良好,编码性能方面有明显改善。