随着视频多媒体应用的快速发展,人们对高清、超高清视频的需求不断提升,原有的视频编码标准已不能满足实际的发展需求。为了进一步提高视频的压缩效率,视频编码联合协作组制定了新的视频编码标准HEVC(High Efficiency Video Coding,HEVC/H.265)。HEVC作为新一代视频编码标准,保留了传统视频编码的框架,同时也引进了新的编码技术大大提高了视频的编码性能,使其在同等视频质量的前提下,与上一代视频编码标准H.264/AVC相比节约了50%的视频码流。然而,压缩性能的提升也带来了巨大的计算复杂度。因此,如何进一步提高视频的压缩效率,降低编码计算复杂度,是目前HEVC的研究热点。本文首先阐述HEVC的整个编码框架,从帧间预测模块的CU(Coding Unit,CU)划分和PU(Prediction Unit,PU)模式选择两个部分对算法进行优化,进而降低了编码复杂度。针对HEVC帧间CU块划分的高复杂度问题,本文提出了一种编码单元深度选择快速算法。首先利用当前CU与时空域相邻CU的深度信息,初步预测当前CU的深度范围;然后根据当前CU与邻近CU运动矢量(Motion vector,MV)信息对当前CU深度选择做进一步终止判断。实验结果表明,提出的算法与HEVC测试模型(HM16.0)相比,能够在保证损失很小视频质量的同时,平均减少30%左右的编码时间。针对HEVC帧间PU模式判决过程的高复杂度问题,本文提出了一种帧间PU模式选择快速算法。首先分析当前CU与时空邻近CU之间最佳PU模式的相关性,然后利用父CU最佳PU模式对当前候选PU模式进行筛选,从而减少帧间PU模式的遍历,以达到降低编码计算复杂度的目的。实验结果表明,提出的算法与HEVC测试模型(HM16.0)相比,能够在保证损失很小视频质量的同时,平均减少40%左右的编码时间。