视频压缩标准是视频技术得到广泛应用的决定性因素，是国内国际技术交流的基础。MPEG-1标准的制定导致了VCD的发展，MPEG-2标准是DVD和数字电视及HDTV发展的前提，MPEG-4标准引发了大量的基于因特网的视频应用，H.261和H.263标准等在视频会议方面发挥了重要的作用。 H.264编码标准作为MPEG-4 14496-2的补充，其目的在于进一步挖掘现有编码技术的潜力，实现高画质、低比特率的编码效果。H.264可以达到很高的编码效率，具有很好的市场应用前景。但是，由于H.264编码标准引入了大量复杂度较高的时间和空间编码算法，因此深入研究H.264，设计和优化编码算法，实现实时编码就具有十分重要的意义。 本文结合一个基于TI TMS320C6416 DSP实现H.264实时视频压缩编码系统的项目开发工作，研究如何对H.264算法进行优化，以达到实时编码的要求。首先研究H.264/AVC的编码系统，分析H.264采用的主要编码算法，对其中复杂度较高的模式选择算法进行改进，然后对已有的实现H.264编码算法的代码进行比较和分析，选择适合移植到C6416的代码，然后就是对算法进行优化，优化是要基于C6416 DSP的，利用C6416强大的处理能力，分别从C代码级和线性汇编级进行展开，在C代码级别上，定义好数据结构，主要采用内联函数，数据打包，软件流水等技术进行优化，在线性汇编级别上，运用C6416特有的强大指令系统对算法进行优化。研究的重点在于如何充分利用芯片的硬件流水技术，使得更多的指令能够并行执行。 对优化后的编码器O-T264和JM编码器进行详细的编码性能的比较和分析，实验数据证明，O-T264比JM编码器的处理速度提高了一百多倍。优化后的编码器编码一帧QCIF图像平均所用的时间为16.6ms，即每秒可编码六十几帧，这大大超过了实时编码的要求，对CIF文件，细节较少的图像编码一帧所需时间为55.9ms，即每秒可编码十八帧，在并未显著降低性能的前提下，有效地提高了编码器的效率。