H.264/AVC是由JVT(联合视频组)提出的视频标准,其目标是保证高画质低码率,但是其编解码的计算复杂度相当高,尤其是编码器的性能,这就限制了它的应用范围。为此,许多学者对H.264/AVC编码器进行了大量的研究和实验,旨在提高其编码性能。但是到目前为止,大多数研究都集中于算法级的优化以及指令级的优化,如对运动估计、模式选择等模块进行算法改写和优化,用SIMD(单指令多数据)指令集改写一些耗时模块等。 本文首先介绍了H.264/AVC视频标准的基本概念、主要特性以及H.264/AVC在国内外的研究现状,另外还介绍了数字视频编码的一些基本知识,然后讲述了运动估计和模式选择算法,并且分析了H.264/AVC参考模型软件JM中的运动估计算法,最后重点分析了针对于JM编码器的优化策略以及H.264/AVC实时编码器的实现。本文的主要贡献是从H.264视频编码特性和系统结构的角度出发,较为深入地分析了编码器的可并行性,并且提出了一种基于SMP(对称多处理器)集群的H.264实时视频编码器实现方案,该方案可以实现Slice(片组)和Macroblock(宏块)两级并行编码,系统采用分布式共享内存结构来实现并行计算,这种结构的并行计算可以通过MPI和OpenMP混合编程来实现,文中采用的H.264编码器原型是JVT提供的JM10.1。实验表明,系统级的优化极大地提高了编码器的编码速度,经优化的编码器可以应用于实时视频编码环境中。