随着计算机技术与多媒体技术的不断发展,视频应用的范围越来越广。由联合视频专家组推出的H.264编码标准以其极高的压缩率和良好的网络抗差错能力,成为当前实时视频通信,网络视频点播,数字电视广播,数字视频监控等各领域的主要视频编码标准。另一方面,随着DSP技术的高速发展,嵌入式视频设备以其灵活、便捷、可移动等特性得到了广泛的应用。围绕嵌入式平台的视频编码器及相关产品的开发成为视频应用领域一项重要的工作。本文主要研究H.264编码器在DM642上的优化技术。本文分析了H.264编码器中计算复杂度最高的帧内预测与帧间预测算法,在现有算法基础上,改进了帧间预测算法和帧内预测算法。算法通过模式预判决方式,有效的降低预测模式判别和运动估计的次数,在图像质量损失很小的情况下,提升了编码速度。本文亦根据DM642的结构特点,对整个编码器进行了C代码优化和汇编优化。C代码优化是指综合采用编译选项、内联函数、数据打包、软件流水等方法对编码器进行优化。汇编优化是指用汇编语言改写了计算复杂度高,被频繁调用,在编码器框架中较为独立的小模块,大大提升了这些模块的运行效率。通过优化代码,改善了整个编码器的运行效率,提升了编码速度。