目的新一代高效视频编码(HEVC)标准采用了灵活的块结构和大量新颖的编码工具,有效提高了视频编码效率。变换跳过模式作为一种新增加的模式,可以有效地提高编码效率,但是也显著地增加了编码的复杂度,增加了实时编码应用的难度。因此提出一种针对变换跳过模式的提前剪枝算法。方法通过分析不同率失真代价下是否选择变换跳过模式的残差块的分布情况,最终选取率失真代价的平方根作为阈值,并建立了量化参数与阈值之间的模型。之后可以根据量化参数提前计算得到阈值大小,减少变换跳过模式的编码次数,从而降低变换跳过模式的复杂度。结果由于最终只需要对少量的块进行变换跳过模式编码,并且使用模型得到经验阈值并不会额外增加复杂度,因此能减少编码器的计算复杂度。实验结果表明,与标准编码器相比,该算法对于不同场景的标准测试序列平均峰值性噪比和平均比特率变化都非常小,平均减少了70%的变换跳过模式编码的次数。结论该变换跳过模式的剪枝算法,选取率失真代价的平方根作为阈值,根据本文模型获取不同量化参数下的经验阈值,对是否需要进行变换跳过模式提前判断。实验结果表明,该算法能在保证视频编码质量的前提下有效地降低由于加入变换跳过模式增加的编码复杂度。