随着宽带网络的普及和多媒体技术的不断发展,数字视频在人们的生活中变得越来越重要。但由于网络带宽的限制,数字视频业务的发展遇到了瓶颈。2003年3月由联合视频专家组(JVT)公布了一个被ITU-T称为H.264/AVC协议、被ISO/IEC称为MPEG-4的高级视频编码部分的最终草案,成为能够提供更高压缩率和友好网络接口的新一代压缩视频标准。该标准包含了众多先进的视频压缩编码技术和思想,比以前的视频编码标准在编码效率方面有了明显的提高。但由于这些新方法的引入,使得H.264/AVC在获得高压缩编码的同时计算复杂度急剧增加,与MPEG-4简单配置相比,其编码复杂度更是增加了10倍,这极大的制约了H.264/AVC的推广和使用,因此必须对压缩编码算法进行优化以提高其编码效率,特别是在实时应用中。本文对H.264/AVC视频编码标准的基本原理和关键技术进行介绍。对H.264/AVC中的帧内预测编码进行了说明,分析了帧内预测算法的编码复杂度,重点分析了帧内预测算法中4×4块和16×16块的模式选择算法,同时对相邻块的预测模式的相似性进行了分析,提出在帧内预测时,根据相邻块信息来减少不必要的帧内预测模式,以达到提高编码效率的目的。本文的主要工作是:1.在分析帧内编码研究现状的基础上,为了进一步降低计算复杂度,提出使用模板技术快速判断图像块纹理方向,确定其预测模式的方法,该算法主要针对4×4宏块和16×16宏块:对4×4块的预测模式,由于其像素数量较少,像素间具有很强的相关性,因此提出一种能够快速判断4×4宏块纹理方向的方向模板,从而减少了预测模式的数量,降低了计算复杂度;对于16×16宏块,由于其具有像素数量多、像素间相似性高的特点,因此提出一种可分级的模板分析方法来快速判断最优预测方向,减少预测模式的数量。2.使用基于双阈值的快速判断算法来对当前宏块进行预判,对于那些运动剧烈或运动不明显的宏块只进行4×4块或16×16块的模式预测。该算法与全搜索算法相比,减少了宏块类型,降低了计算复杂度。3.对图像相邻块之间的预测模式进行相似性分析,提出了利用图像相邻块信息来对当前待编码块进行模式预测的方法。使用JVT(Joint Video Team)提供的参考软件JM13.2,把本文的快速算法与原来的全搜索算法进行比较,实验表明,该算法在信噪比和码率变化不大的情况下可以显著提高编码速度。