近几年来,在许多消费领域数字视频尤其是数字高清视频已经成为媒介内容的主导格式。为了方便数字视频的传输,视频编码是很重要的技术之一。2010年1月,ITU-T和ISO/IEC联合成立了 JCT-VC (Joint Collaborative Team on Video Coding)联合组织,统一制定下一代视频编码标准HEVC (High Efficiency Video Coding)。HEVC依旧沿用了传统视频编码标准的框架,并且采纳了有关视频压缩技术的最新成果,使其编码性能与H.264/AVC相比提高了约1倍。但是,在提高压缩性能的同时也给编码器带来了极大的计算复杂度。因此,如何在不降低HEVC编码性能的前提下降低计算复杂度,加快编码速度,已经成为HEVC视频编码研究的重要课题。本文首先对HEVC视频编码进行了研究,分别介绍了HEVC标准简介、HEVC基本框架结构以及它所采用的关键技术,包括基于大尺寸四叉树的编码分割、帧内预测、帧间预测、变换与量化、熵编码以及环形滤波。然后主要对HEVC视频编码的帧内预测部分进行了深入研究,包括帧内率失真优化过程和帧内模式选择流程的详细分析。在此基础上,针对HEVC编码算法的高复杂度,本文提出了两种HEVC编码快速算法,大大加快了编码速度,提高了编码效率。首先,利用视频序列的CU深度范围与相邻编码块之间的相关性预测当前CU的深度,自适应决定提前终止CU划分或跳过某些不必要划分的CU。此外,在每个TU深度可能性的基础上限制TU深度范围并删除TU深度选择过程中的计算冗余。实验表明：基于提前终止编码块划分的快速算法与HEVC原始算法相比较,码率增加了约0.75%,峰值信噪比下降了约0.041dB,编码时间缩短了近14%。其次,利用DCT变换计算预测块的纹理方向,提出了一种基于整数变换的HEVC快速编码算法,该算法利用变换域特征进行预测模式的筛选,并根据相邻块预测模式的相关性,减少候选模式集数目,最后进行RDO模式选择,实验表明：基于整数变换和模式相关性的快速算法与HEVC原始算法相比,在编码性能基本不变的前提下编码时间缩短了约20%。最后,将提出的基于提前终止编码块划分快速算法和基于整数变换的模式选择快速算法结合起来,其实验结果表明,该结合的HEVC帧内预测快速算法取得了较好的编码效果,在保证视频质量和码率基本不变的前提下,编码时间节省了约33%,大大加快了编码速度,有效地提高了编码效率。