H.264是联合视频专家组(JVT,Joint Video Team)于2003年5月正式推出的新一代视频编码标准,与现有其他标准相同,都采用了基于块的混合编码模型。同时H.264又使用了许多先进技术:如帧内编码中的空域预测、可变块尺寸的运动补偿、4×4整数变换、多参考帧选择和内容自适应的二进制算术编码等。测试结果表明H.264在峰值信噪比和视频质量两方面的性能都远优于现有其他标准。 为了达到高效的编码性能,H.264使用率失真优化(RDO,rate-distortion optimization)模型为每个宏块选择最佳编码模式和参考帧。但是这种穷举的搜索算法令H.264的计算复杂度远远高于现有其他标准,无法满足实时视频通信等应用需求,所以必须对算法进行优化以降低复杂度。 而帧内编码作为H.264中提高编码性能的一个重要手段,采用了多种预测模式,这些模式不但在Ⅰ帧编码时需要被逐一计算,在P、B帧编码时同样也需要计算,因此对帧内编码进行快速算法优化可以显著地降低整体复杂度。本文在实验分析基础上提出了2种帧内预测编码快速算法。 首先通过多个QCIF测试序列的编码结果统计发现,在Ⅰ帧中编码后的最佳宏块类型在空域上具有极强相关性,且同一宏块的两种宏块类型的编码结果间也具有很强相关性。基于这一发现,本文提出了帧内宏块类型预判断算法,实验结果表明,该算法在编码质量和压缩效率基本不受影响的前提下,达到了12%左右的时间节省。 同时实验结果也表明,在保证高质量的编码性能的条件下,能够使用预判断算法进行筛选的具有明确纹理信息的宏块所占比重有限,因此需要对各帧内宏块类型内部的模式选择进行优化以达到进一步的提高。本文提出了一种改进的基于边缘方向直方图的快速算法,实验结果表明,该算法在PSNR和比特率可接受的波动条件下,时间节省在60%左右,有效的提高了编码效率。