在2003年3月,由MPEG、VCEG组成的JVT开发的新一代视频编码标准H.264/AVC正式在国际上颁布。这一编码标准相对以前的视频编码标准如MPEG-1、MPEG-2、H.263等在低码率传输中表现出更优异的性能。它利用了许多比较先进的编码技术,如7种预测块的树状结构运动补偿、亚像素运动矢量以及多参考帧的运用,拥有很强的编码优势,编码效率较以前的标准提高了约50%。但也相应地存在复杂度高和计算量大的问题,这限制了H.264/AVC技术在实时领域的广泛应用。H.264/AVC优异的编码性能使其具有广阔的应用前景,而研究其快速算法与实现是它走向市场的重要前提与保证,因此研究其算法并进行优化,具有相当重要的理论意义及实用价值。针对上述问题,本文研究了以下几个方面:(1)论述了H.264/AVC的编解码原理,以及它的主要功能模块和采用的一些新的关键技术。(2)深入探讨了运动估计算法,对各种运动估计算法进行了比较分析,在H.264/AVC中利用几种预测方式得到最优的预测中心和设置阈值,提出了一个新的搜索算法,有效减少了搜索点,在主观图像质量变化不大的情况下,很大程度地提高运算速度,减少搜索算法复杂度。(3)介绍了去块滤波技术在视频编解码技术中的应用,着重对H.264/AVC标准中的环路滤波技术原理及算法进行详细的分析和介绍,并仿真验证环路滤波在整个编解码体系中不但能去除块效应提高主客观质量,而且能节省大量的码率。(4)由于环路滤波器的自适应性,导致其高度复杂,使得滤波过程耗时很长,而边界强度Bs值的计算大约占滤波器90%的计算量,所以本文通过降低Bs值的复杂度来降低编解码器的耗时。(5) H.264/AVC标准中的环路滤波技术可以有效地滤除块效应,但环路滤波中编码器和解码器必须要完全地匹配,不具有灵活性,本文介绍了一种只改变解码器不改变编码器的滤波算法,使得滤波算法应用更加灵活,通过多种视频码流测试仿真的数据显示,相对于原来的滤波算法信噪比只有较小的改变,而主观上图像的视觉效果有较好的改善。(6)本文还对H.264/AVC标准中的整数变换与量化技术进行了分析研究。