随着全球化的进程以及互联网的日益发展,视频传输出现后拥有广泛的市场以及研究的可行性。在未来的互联网在线视频播放待选编码规则中,H.264脱颖而出成为了目前最可靠的视频编码技术。H.264采用了许多先进的技术,在编码效率和性能大幅度提高的同时,增加了抗误码及网络自适应等功能,所以H.264实时编码器的研究和实现是目前图像通信研究领域的一个热点问题。本文从优化X264开源代码入手,实现了H.264在DM642上的多种优化,编码速度得到了有效的提高,非常适合基于IP和无线网络的音视频传输、安全监控等视频、图像处理领域的应用。本论文的主要工作和创造性研究成果有:1)研究帧内预测编码的各种模式,借鉴其他技术,通过块边缘像素的方向一致性和相邻预测块预测模式相关性,得出本论文的综合性帧内预测算法。研究帧间模式选择算法,设定阈值,减少了帧间预测技术模块的计算次数,大大减少了选择算法的预算。2)研究了帧间跳跃(SKIP)模式的快速预判,通过相关性原则以及设定搜索阈值实现了对SKIP模式的预判,实现了对不需要编码的宏块快速处理,大大减少了判断SKIP模式的时间。3)研究整像素以及子像素的搜素方式,根据仿真得出各种算法的搜索时间和搜索准确度,确定了钻石型搜素算法为基本方法。4)研究使用了EDMA(Enhanced Direct Memory Access)技术进行视频存储器之间搬运,通过使用EDMA,大大提高数据传输速度。5)根据DM642的特点,优化存储器的2级高速缓冲存储器(Cache),对软件流水等进行了优化修改,同时进行C语言汇编级别优化,把C语言的代码转化为汇编语言,使得源程序更加适合在DM642上的开发环境。本论文充分考虑算法本身和DSP(Digital Signal Processor)芯片的特点,通过优化,实现了每秒15帧左右的速度,在不影响主观图像质量前提下,总体优化速度大约有40%左右的提高。