高效视频编码（High Efficiency Video Coding,HEVC）釆用了与前一代视频编码标准H.264相同的混合视频编码框架,并在多个编码模块上进行了改进和优化,编码效率得到了显著提高,与此同时也大幅度增加了编码的计算复杂度。HEVC编码器的巨大计算复杂度,阻碍了HEVC标准的应用与推广。本文针对HEVC视频编码快速算法,在帧间快速模式选择、多参考帧快速选择和帧内快速模式选择等几个方面开展了深入的研究工作。在HEVC视频编码标准中,每个编码树单元（CTU）进行四叉树递归划分,可以分割成各种尺寸的编码单元（CU）、预测单元（PU）和变换单元（TU）。在进行模式选择过程中,每一深度层需要遍历Merge、Inter₂N×2N、Inter₂N×N、Inter_N×2N、Inter_N×N、Inter₂N×nU、Inter₂N×nD、Inter_nL×2N、Inter_nR×2N、Intra₂N×2N和Intra_N×N这11种模式,通过比较各个模式的率失真代价,从中选择率失真代价最小的模式作为最佳的编码模式。模式遍历带来了较高的编码复杂度,让HEVC视频编码技术不能很好的满足实时性要求。本文提出了一种基于运动特性的快速模式选择算法,该算法根据不同深度层Merge和Inter₂N×2N模式的量化参数以及Inter₂N×2N模式的运动矢量来提前判断当前最大编码单元（LCU）的最佳编码深度,同时在每一层模式遍历过程中,根据Merge和Inter₂N×2N模式的量化参数以及Inter₂N×2N模式的运动矢量来提前判断当前编码深度的最佳编码模式。实验结果表明,所提出的算法在保证视频质量的前提下可以有效地节省编码时间。在运动估计过程中,多参考帧的选择占用了较多时间。如何快速决定当前编码块的最优参考帧,也是帧间快速算法的一个重要研究方向。本文对多参考帧选择过程进行了分析,提出了一种基于内容相似性的多参考帧快速选择算法。该算法考虑到Inter₂N×2N模式和其他模式在参考方向和参考帧索引方面的相关性,对除Merge和Inter₂N×2N模式以外的其他模式继承Inter₂N×2N模式的最佳参考帧方向和索引。实验结果表明,所提出的算法在保证视频质量的同时降低了编码复杂度。在帧内编码过程中,需要编码Intra₂N×2N模式和Intra_N×N模式,而这两种模式的选择过程又包括了粗略模式选择（RMD）、最有可能模式（MPM）选择、率失真优化量化（RDOQ）和残差四叉树编码（RQT）等。本文提出一种基于时空相关性的帧内快速算法。在帧内CU深度跳过方面,借鉴前一帧相应位置的编码深度信息来约束当前的编码深度。在编码模式方面,根据周围已编码PU的模式信息,减少候选模式的数量并提前判断当前最佳编码模式。实验结果表明,所提出的算法在视频质量几乎不变的情况下有效地提高了编码速度。