面对高清及超高清视频数据量急剧增长给存储空间与网络传输带来的巨大冲击，JCT-VC工作组制定了具有更高压缩效率和更高编码质量的新一代视频编码标准H.265/HEVC。H.265/HEVC取代之前编码标准中16×16固定大小的“宏块”划分方式，采用灵活的“四叉树”式编码单元划分结构。相比于其他视频编码标准，由编码单元深度遍历所衍生出的巨大而灵活的编码模式候选集合，在更适用于高分辨率视频编码的同时，也使得H.265/HEVC编码器的复杂度急剧增加，严重阻碍了H.265/HEVC标准的应用与推广。本文以H.265/HEVC标准为研究对象，以加速H.265/HEVC帧内和帧间编码单元深度遍历过程为研究目标，力求在H.265/HEVC低复杂度编码方面的理论研究与技术实现上有所创新。主要研究内容与成果如下:　　1.提出一种基于时空相关性的帧内编码单元深度快速选择算法。以编码单元深度选择在空间与时间上的关联关系为研究依据，以实现编码单元可能深度范围的动态预测为研究目标，设计了基于时间相关性的深度相关性因子构建策略，以及基于空间相关性的编码单元最可能深度范围预测机制。本算法与测试模型HM-15.0相比较，可在保证编码重建质量的前提下，加速帧内编码过程。　　2.提出一种基于机器学习的帧间编码单元深度快速选择算法。通过探究编码单元纹理复杂度、编码器量化参数、编码码率、编码失真与编码单元深度选择之间的相关性，将顶端跳过与提前终止思想共同应用于算法优化过程中，设计了基于纹理复杂度和量化参数的编码单元初始划分深度预测策略，以及基于码率和失真的编码单元终止划分深度选择策略。本算法与测试模型HM-15.0相比较，可在保证编码单元划分准确度的同时，降低帧间编码过程时间。