随着技术的不断发展,日益成熟的视频监控系统广泛应用于各个行业用户并逐步向个人用户扩展。视频压缩算法作为视频监控系统中核心技术之一,直接影响视频监控系统的性能和整体表现。因此,研究视频压缩算法以提高其实时性和压缩比并降低其码流速率对于提升视频监控系统的表现和其它方面应用有较大作用。在本文,通过对主流视频压缩算法H.264中帧内预测模式选择算法的研究来达到提高帧内预测选择算法的速度,降低帧内预测时间的目的。本文在研究视频压缩算法的基础上重点研究H.264视频压缩标准,针对H.264中视频编码的实时性性能瓶颈,通过对H.264的帧内预测模式选择算法和代价函数模型的分析,结合对帧内预测模式选择算法研究现状的总结,在标准的全搜索算法的基础上提出了一种改进的帧内预测模式快速选择算法,主要原理是利用Intra₁6*16的最佳预测模式对于Intra₄*4预测模式基于纹理的指导作用和帧内预测模式之间的强相关性,同时可以排除不可能的模式,提高预测速度并节约编码时间。该算法的主要作用是减少帧内预测编码时间,并提高帧内预测编码速度同时也可保证图像编码质量。通过JM11模型对一组QCIF基本视频序列进行仿真实验和分析,结果表明,提出的改进算法的平均帧内预测时间能明显减少,平均减少幅度为22%,同时视频序列的信噪比下降较小,对视频画质基本没有影响。本文通过对H.264帧内预测选择算法的研究提出了一种帧内预测快速选择算法,仿真结果表明提出的改进算法能够有效地减少帧内预测模式选择的次数,提高帧内预测编码的速度。由于对多种基本视频序列测试结果反应良好,因此可以认为该算法具有较广泛的应用范围。本文最后对H.264视频压缩算法中帧内预测选择算法的研究进行了展望,并提出了进一步优化帧内预测选择次数的思路。