H.264/AVC是由MPEG动态图像专家组和VCEG视频编码专家组联合提出的新一代视频压缩编码标准。H.264/AVC不仅具有较大的压缩比,而且能保证一定的编码质量,在数字电视、视频通信和网络流媒体等领域得到了广泛的应用。虽然H.264/AVC使用了高效算法来优化编码,但编码的时间复杂度仍然很大,从而限制了实际应用。帧内预测是H.264视频压缩编码标准的核心技术之一,主要用来消除视频的空间冗余。H.264采用率失真优化的代价函数来进行最佳预测模式的选择虽然效果较好,但是时间复杂度高。本文通过分析帧内预测的原理得到了H.264帧内预测优化的一般方法,先提出了一种基于简化代价函数的帧内预测优化方法,虽然取得了显著的速度提升效果,但是大幅度降低了编码质量。然后提出了一种基于减少代价函数计算次数的快速帧内预测算法,该算法通过宏块类型预判和帧内4x4块快速模式选择缩小了搜索范围,从而降低了帧内预测的时间复杂度。实验表明,帧内预测快速算法在保持信噪比和码率基本不变的情况下,大大减少了编码时间。图形处理器GPU具有强大的数据处理能力和并行处理能力,为了能够更快速有效地在GPU上进行高性能计算,NVIDIA公司推出了统一计算设备架构CUDA。本文对H.264视频编码标准进行了并行化分析,并利用CUDA并行化平台,将帧内预测放入GPU中进行并行处理,其余模块仍在CPU中进行处理。帧内预测并行化方法利用分片策略将行波流水并行化优化为对角线并行化,并利用CUDA的两级并行化模型对一帧图像进行分片并行,进一步提高了并行度。实验表明,帧内预测并行化方案在小幅度降低编码质量的情况下大大减少了帧内预测的处理时间,并且随着视频分辨率的提高和GPU性能的提升,编码时间减少效果越来越明显。本文系统的分析了H.264帧内预测的优化方法,并提出了H.264帧内预测快速算法和H.264帧内预测并行化方法。本文提出的H.264帧内预测优化方法在对视频质量影响不大的情况下,有效的提高编码速度,有利于H.264编码的实时性应用。