近年来,随着数字视频应用的日益广泛,图像压缩标准也在不断的提高和完善中。为此,国际标准化组织(ISO)和国际电信联盟(ITU)提出了一系列视频编码的国际标准。其中最为引人注目的是由ISO和ITU成立的联合视频工作组(JVT)在H.26L基础上开发出的最新视频压缩编码标准,即H.264/AVC标准。同以往的视频编码标准相比,H.264/AVC在编码效率和图像质量方面有着大幅度的提升。　　然而,由于复杂的率失真优化编码技术和繁琐多样的时间/空间预测模式,使H.264的编码复杂度也远远高于先前标准,其编解码复杂度分别是H.263的3倍和2倍。因此,研究和开发面向H.264/AVC的快速算法从而降低编码复杂度、减少运算量、提高编码速度,对于H.264/AVC视频编码标准能否得到广泛普及以及进一步研究、发展视频压缩和通信技术具有十分重要的理论意义和应用价值。本文分析了H.264帧内宏块编码模式的复杂性,在探讨已有帧内模式快速选择算法的基础上,提出一种快速的帧内预测模式选择算法,该算法利用图像的SATD特征和空间相关性来预测当前块的模式,并采用了提前中止策略。实验结果表明,该算法大大地节省了编码时间,而图像质量和输出码率基本不变。　　另外,整个编码过程中运动估计所占时间最大,因此H.264/AVC中基于块匹配的快速运动估计算法一直也是视频压缩领域的研究热点。本文首先介绍了常用的几种运动估计基本原理,针对UMHexagonS算法提出了一种改进方案。然后,对几种运动估计算法相应的仿真实验,实验结果表明在保证搜索效果方面基本不变的情况,改进的预测算法的搜索速度与原算法的搜索速度相比有明显优势。