H.264/AVC是由MPEG和VCEG的专家共同组成的联合视频小组JVT发展的新一代视频编码国际标准，也即MPEG-4Part10。新的H.264/AVC视频编码标准在编码质量和压缩比上与原有视频编码标准相比都有了明显的提高。在相同的视觉感知质量上，编码效率比H.263、MPEG-2和MPEG-4Part2提高了50％左右，并且有更好的网络友好性，在电视、高清晰度电视、卫星电视、存储媒体、无线多媒体应用等方面显示出了巨大的应用潜力。与早期的视频编码标准类似，H.264/AVC也是建立在块匹配的混合编码框架上的，基本算法仍然是通过帧间预测和运动补偿来消除时域冗余，通过变换编码消除频域冗余。因此基本的功能模块都没有发生根本的变换，但是在每一个模块中都引入了新的技术，使各模块的实现细节发生了重要的改变，从而带来了H.264/AVC极大的性能提升，使得其成为当前的研究热点。 　　在这样的背景下，本文在这些方面也做了一些有益的研究。本文首先简单介绍了视频编码标准的发展，并以MPEG系列标准为主讨论了各个编码标准的特点；接着，在深入研究H.264/AVC标准的基础上，深入探讨了H.264/AVC所采用的关键技术(如：1/4、1/8像素精度的运动估计、多块模式的帧间预测、多参考帧、帧内预测、去块效应滤波器、自适应算术编码等)；然后编码实现了整数变换和去除块效应滤波器两个模块，并在参考软件JM9.3的基础上对包括这两个模块的关键技术进行了分析测试，对其性能的提高作出了定量的分析，同时初步探讨了软件优化的基本方法，并对整数变换提出了优化方案；最后，对全文作出总结并提出了下一步研究方向及重点。