H.264是由ITU-T的视频编码专家组(VCEG)及ISO/IEC的移动图像专家组(MPEG)大力发展研究的适应于低码率传输的新一代视频压缩标准。H.264的编码框架和以往的H.26x和MPE6标准相似,但在很多环节上作了改进,从而获得了更高的编码效率,在相同的图像编码质量下,H.264可以节省大约50％的码率。然而,这种编码效率的提高是以增加巨大的运算量为前提的,因此如何减少其计算复杂度对H.264标准在多路视频实时监控方面的应用尤为重要。实验数据表明,对于H.264编码器来说,基于率失真代价的模式选择、整数变换和量化模块的计算复杂度最高。因此本文对这三个方面进行了研究和优化,大大减少了编码器的复杂度。　　 本文首先介绍了视频编解码技术的国内外研究和发展现状,并在此基础上对视频编码标准H.264的各个环节进行了详细的分析。根据多路视频实时监控应用中对视频编码器的要求,本文紧接着对H.264编码算法中复杂度最高的模式选择、整数变换和量化模块进行了大量的优化。本文在优化的过程中力求做到以少许的编码性能来换取编码速度的大幅提高。优化包括算法方面的优化和软件实现方面的优化,这两个方面在本文均有涉及。在算法方面,本文提出了一种帧间模式选择的快速算法,并对整数变换和量化模块做了细节性的修改。在软件实现方面,本文使用Intel的MMX、SSE、SSE2等基于SIMD(单指令多数据)技术的多媒体指令集对H.264编码器中运算较为密集的模块进行了优化。并以JM和T264为软件模型进行了仿真试验,对比了优化前后的图像质量、编码速度和压缩比。　　 实验证明,在采用了本文的快速算法和优化策略后,在保持较好的图像质量和压缩比的情况下,编码器的运算复杂度大大降低,基本上满足8路监控视频实时编码的要求。最后,对H.264/AVC视频编解码算法进行了总结和展望。