高效视频编码(High Efficiency Video Coding,HEVC)是目前最新的视频编码标准,继承自H.264/AVC,通过引入新的技术,使得在保持良好视频质量前提下进一步提高编码效率。相对于H.264标准,HEVC在帧间预测模块采用了新的合并(Merge)模式、增加了灵活的块划分以及更合理的子像素插值算法,编码的性能也有所提高,但是编码的计算复杂度随之增加。因此,在保证编码效率的前提下,有效降低编码复杂度,是拓展HEVC编码标准在视频通信领域应用的关键。本文围绕HEVC帧间预测快速编码技术进行研究,优化了编码单元(Coding Unit,CU)划分和模式选择算法,降低了帧间预测编码复杂度。本文创新点主要包括以下几方面:(1)提出了一种基于残差分布的HEVC快速深度终止算法,在第一个阶段获得CU执行完Inter＿2N×2N模式后的残差值,然后根据实际编码深度进行分类,并以高斯分布进行建模;第二阶段,以Inter＿2N×2N模式完成后的残差均值为特征,计算残差在高斯分布中的概率并根据概率大小确定当前CU是否分割。(2)提出了一种基于多参考帧的HEVC帧间预测深度决策算法。首先计算每个编码树单元(Coding Tree Unit,CTU)与其参考帧列表中索引最小的两个参考帧的同位CTU的结构相似性(Structural Similarity,SSIM)值;然后以SSIM值为权重对同位CTU深度进行加权预测当前CTU的深度范围,同时利用父子CU信息相关性,提出一种快速参考帧选取算法,该算法根据父CU的最佳模式和编码信息确定当前CU的最佳参考帧。(3)提出了一种基于显著度的帧间预测优化算法。在CU深度划分方面,本文利用显著度检测模型得到当前帧中所有CTU的空域全局和局部显著度,并最终得到CTU的空域显著度值,并建立显著度值与显著度区域的对应关系,最终根据显著区域设置CTU深度范围。在帧间模式预测方面,计算CU内4×4块的显著度并做二值化处理,然后计算预测单元(Prediction Unit,PU)划分后各图像块中显著块的比例,并根据阈值确定是否执行某PU模式,该方案可以有效地避免在不必要模式的时间消耗。大量实验表明:本文提出的深度决策算法可以在保持视频客观质量的同时有效降低帧间编码复杂度;本文提出的基于显著度的帧间编码优化方案在保持客观视频质量和主观视频质量同时有效降低帧间编码复杂度。