HEVC(High Efficiency Video Coding)是继H.264/AVC之后的新一代视频编码标准,由协作视频编码组JCT-VC联合制定。HEVC保留了基于块运动补偿的传统混合视频编码框架,同时在帧内预测、帧间预测、正交变换与量化、熵编码等关键模块部分都采用了相应的新技术,使得HEVC在基本保证H.264/AVC所有的功能与应用的情况下,其编码效率有了显著提升,相较于H.264/AVC提高了一倍。HEVC优异的编码性能是以较大的编码复杂度为代价实现的,比如四叉树递归块划分结构、率失真优化决策、35种帧内预测方向等关键技术的复杂度都非常高。本文对HEVC帧内编码进行了深入研究,降低帧内编码复杂度,提高整体编码效率。针对帧内预测过程中的模式选择及影响模式选择性能的相关部分,从帧内分块的四叉树遍历结构和帧内预测模式的选择过程两方面进行了深入分析,并对帧内预测各部分的计算量进行了统计。对于LCU其帧内编码存在的可能划分方式有1024种,帧内预测多达35个,对35种模式都要进行率失真优化决策,由此导致帧内预测运算量非常庞大。本文针对HEVC帧内预测瓶颈问题,提出了一种基于三步快速选择的HEVC帧内预测优化算法。帧内预测最佳模式选择需两个基本步骤:粗略模式选择(RMD过程)和模式细选(RDO过程)。针对两个过程分别进行详细分析,提出了相应的优化算法主要策略如下:(1)基于三步选择的粗选优化算法。本算法在模式粗略选择(RMD,Rough Mode Decision)过程中优先搜索预设大方向、再在选定大方向范围内精确搜索两步,使得原需遍历多达35种帧内预测模式,减少到最多遍历15种模式即能得出最佳预测模式,以此减少了一半的需计算SATD代价的模式个数;(2)基于视频特性的细选优化算法。本算法利用最有可能模式(MPM,Most Probable Mode)和第一个候选模式的相关性,提出了最佳预测模式选择的最后一步,根据PU尺寸的大小自适应地减少了参与率失真代价计算的模式个数,有效减少细选计算量。为验证上述三步快速选择算法的效率,本文选择HEVC标准测试序列对其进行了系统的测试。本文提出的优化算法与标准算法相比较,实验结果显示:在不同序列、不同QP参数的配置情况下,本算法保证视频质量基本不变,码率稍有增加,平均在0.2%左右;亮度峰值信噪比PSNR的降低量均在0.05d B左右,保证在0.1dB之内;而编码时间平均减少了约40%,很大程度上加快了编码速度。实验结果可以充分表明,本文实现的算法能够有效的提高编码效率、缩短帧内编码时间,对HEVC的实际应用具有积极的意义。