H.264是ISO和ITU-T联合制定的最新视频编码标准[1]。和以往的标准相比,H.264采取的多帧参考、小分块模式选择、亚像素运动矢量搜索、整数DCT变换、CABAC或CAVLC熵编码等新特性大大提高了整个编码算法的性能提高了编码质量,同时也降低了码率。然而正是这些新技术的应用却增加了编码算法本身的复杂度,使其很难在实时系统中完成编解码要求。通过设置对角滤波与其邻近子块已解码的最小率失真代价做比较,提前预测当前4×4子块。亮度子块16×16模式经过Hadamard变换后最终与4×4子块比较选出最优的帧内模式。虽然在预判时增加了滤波开销,但对于搜索次数却有了很大减少,实验结果也显示本文的算法PSNR值损失在可接受的范围。对于帧间预测,统计发现Skip和16×16模式在大部分序列中占据了绝对比重,所以采取设定阈值T,划分平缓S区选择各子块。实验结果显示,在不同量化阶数下本文的算法在编码时间上都减少了将近一半。另一方面,目前支持H.264编码标准的平台和解决方案可谓是百家争鸣,就连H.264编解码的专用芯片和软件编解码器也是百花齐放。我们知道,H.264的高效性是建立在其算法的高复杂度上,TI公司[2]推出的基于Davinci技术的TMS320DM644x系列的DSP具有强大的处理能力,是目前实现数字视频的理想开发平台。本文简要介绍了该系列DSP的内核,结合DSP内部架构特性提出H.264关键算法在DSP上实现的优化方法、项目级的改进、算法级的改进、同时优化了Cache,应用了DMA搬移数据等。实验结果显示,本文提出的DSP优化方法大大减少了CPU运行的Clock,并且减少了Cache的miss率,为H.264编码算法在DSP平台上的实现提供了可行的参考。