H.264是最新的国际视频编码标准,它是由ITU-TVCEG和ISO／IEC MPEG专家组联合开发的,具有比以往编码标准都高出很多的压缩性能,而且其解码器的复杂度增加也不是很大,所以提出以后就受到了很大的关注。　　 之所以能比之前的视频编码标准压缩性能更高,是因为H.264中采用了大量的新技术,包括:帧内预测；可变块大小的运动补偿；1／4像素精度的运动矢量；整数4×4变换；切换条带；CABAC(基于上下文自适应二进制算术熵编码)等。但是采用了这些先进的编码技术后,在提高了压缩性能和解码质量的同时也大大增加了计算的复杂度,使得对硬件及传输网络的要求更高,尤其是在实时视频通信和一些资源或功耗受限的嵌入式系统中很难得到应用。针对这种情况,人们提出了各种快速算法,如钻石搜索法、交叉搜索法等。本文就是在这种情况下展开研究的。　　 本文首先分析了视频编码标准的研究现状,重点剖析了H.264的核心算法,包括整体架构、帧内预测、帧间预测、变换和量化以及熵编码等,并在理论分析的基础上做了大量的实验,得到了许多H.264编码标准的数据,从这些数据中,可以看到H.264的各项性能指标。然后在第四章对基于模式统计和全零块判决帧内预测优化算法MSZB(intraprediction policy based on Mode Statistic and transform coefficient all-Zero Block)快速算法进行了分析,并分别针对I帧和实际应用场合(即IPB全图像模式下)进行了实验,讨论了其算法充分利用相邻块的高度相关性和利用系数全零块预测提前终止搜索的优点,以及没有考虑到块内部细节问题的缺点。在本文的第五章,针对MSZB算法的缺点进行了改进,分别利用隶属度函数和方向测度函数对宏块类型和块纹理进行了预测,选择合适的预测模式进行帧内预测,并利用邻块预测模式的相关性提前终止了不必要的搜索。最后通过实验证明了该算法高效的压缩性能。