H.264与现有其他标准相同，都采用了基于块的混合编码模型。同时H.264又使用了许多先进技术，如帧内编码中的空域预测、可变块尺寸的运动补偿、4×4整数变换、多参考帧预测和内容自适应的二进制算术编码等。因此，H.264的计算复杂度远远高于现有其他标准。为了更好的满足不同环境下实时视频通信的应用需求，必须对算法进行优化以降低复杂度。本文首先在第一章中简单介绍了视频压缩编码的需求和可操作性，以及视频编码标准在国内外的发展及研究现状。接着在第二章，分析了包括H.264在内的现有的各种视频标准的技术特点，指出H.264的优越性。第三章对H.264之所以能取得比以往好的性能的核心技术进行了分析和研究。本文取得的成果主要在第四章和第五章：第四章对最耗时模块之一的块匹配运动估计的现有各种快速算法进行了深入分析，如菱形搜索算法、混合的非对称的多六边形搜索算法等。这些算法都有比较准确的块定位功能，但搜索点数仍然较多。在此基础上，针对原有算法耗费编码时间多的不足，提出改进的帧间编码算法。然后，对新算法的有效性进行了仿真实验验证。第五章对已有的帧内编码算法进行详细分析，包括利用图像边缘信息的快速选择算法、基于最佳模式概率的快速算法、基于递推模式的帧内预测算法等。研究了高计算复杂度的预测模式选择部份，结合已有算法，提出一种基于自适应阈值和图像纹理复杂程度的快速选择算法，该算法可以根据图像复杂度和时空相关性自适应的调整判决阈值，提前终止预测模式选择过程。仿真结果显示，在性噪比和码率变化很小的前提下，极大的缩短了原有算法的编码时间，提高了H.264的编码效率。最后，我们对论文的工作进行了简要总结与展望。