实时性是当今视频编码标准应用的一个关键性问题,H.264/AVC作为新一代视频编码压缩标准,能够在不同速率、不同传输场合传输高质量的图像数据,已经越来越受到人们的重视和广泛应用。但是其自身高度的计算复杂度导致其不经过优化无法达到实时编码的要求,同时也对实现平台的性能提出了很高的要求。DM642是TI公司推出的高性能数字信号处理器,其具有强大的并行处理能力、二级缓存结构、丰富的外设接口等特点使其成为图像处理开发应用的理想平台。本文主要任务是基于TI-DM642DSP平台的H.264/AVC视频编码器的移植与优化。首先对H.264/AVC视频编码标准的基本框架、主要特点以及核心技术进行了深入的讨论,通过对帧内预测模式选择算法的研究引入一种改进的帧内预测模式选择算法,其主要措施为在帧内预测进行宏块划分时,先对宏块信息进行预判,以尽早确定宏块的划分类型。然后在确定宏块的划分模式后再对4*4子块或16*16子块的预测模式进行过滤,将小概率预测模式排除出候选模式子集,减少多余的计算,提高编码效率。其次详细介绍了DM642硬件平台及CCS开发软件的功能特点和H.264视频编码器的移植过程;最后结合DSP的硬件特点以及CCS的优化工具对移植源程序进行一系列的优化,主要包括:对源程序的删减、使用CCS优化编译选项、建立软件流水使用并行算法指令、使用内联函数优化源程序、针对缓存结构进行优化、针对核心模块进行线性汇编等步骤。实验结果表明了基于DM642的H.264视频编码器能够通过优化明显的降低其计算复杂度,并且能够在略微损失图像质量的情况下显著提高编码速率,帧率从原来的1-2帧/秒达到了25-30帧/秒,基本达到实时编码的要求。