ITU-T H.264／MPEG-4 Part 10 AVC(简称H.264)是最新的视频编码国际标准，由ISO／IEC的运动图像专家组MPEG和ITU-T的视频编码专家组VCEG组成的联合视频小组JVT提出。H.264标准中包含了很多先进的视频压缩编码方法，与以前的视频编码标准相比具有明显的进步。在相同视觉感知质量的情况下，H.264的编码效率比H.263提高了一倍左右，并且有更好的网络友好性。然而，高编码压缩率是以很高的计算复杂度为代价的，H.264标准的计算复杂度约为H.263的3倍，所以在实际应用中必须对其算法进行优化以降低其计算复杂度。论文在第一章简要介绍了视频压缩编码的基本原理方法，以及数字视频压缩标准的发展过程。第二章介绍了H.264编码标准的主要功能模块。论文实现了基于H.264的帧内与帧间预测算法的优化，主要在第三和第四章进行介绍。论文的工作和研究成果如下：1．论文根据变换量化后4x4块残差系数矩阵是否都等于零作为一个准则，得到一个预测模式搜索提前退出的阈值，提出一种基于阈值的快速模式选择算法。该阈值根据量化系数QP值自适应的调整，能够适应不同QP编码情况，有效地减少了预测模式选择的次数，降低了帧内预测的计算复杂度；2．对帧内预测预测模式选择部分进行了深入研究。利用图像编码块之间的预测模式的相似性，以及最优预测模式的方向与次优预测模式的相似性关系，提出一种基于预测方向相似性的帧内预测模式快速选择方法。该算法能够有效地减少帧内预测模式选择的个数，提高了编码速度。3．传统钻石搜索算法实现搜索窗的平移，能够精细的搜索到最佳匹配点，但是其使用固定模板，并在每个搜索点位置进行全向性搜索，将会搜索到冗余点，方向性不强。针对这个问题，本文提出了一种方向延伸的快速运动搜索算法。该算法以传统钻石搜索特性与运动矢量预测算法为基础，引入搜索方向延伸方案，能够快速趋于最佳匹配点；并引入自适应门限，进一步加快搜索速度。