随着高清、超高清数字视频消费需求的增长,人们对数字视频的压缩编码效率提出了更高的要求。由于H.264/AVC在编码效率、并行处理等方面存在着局限性,已经难以满足高清视频应用发展的需求。新一代的高效率视频编码(High Efficiency Video Coding,HEVC)很好地解决了上述问题,但需付出高运算量的代价。因此,如何在保证HEVC编码性能的前提下,降低编码运算量,实现编码端加速,是扩大HEVC在视频领域应用的关键。本文对HEVC的帧内与帧间预测编码进行深入研究,提出了两种改进算法,大幅度降低了HEVC编码复杂度。为了降低帧内预测模式选择的复杂度,本文提出了一种基于边界方向的帧内预测模式加速算法。该算法是从粗略模式决策(Rough Mode Decision,RMD)和率失真优化(Rate Distortion Optimization,RDO)早期终止两个方面进行改进的。在RMD过程中,首先找到当前预测单元(Prediction Unit,PU)的边界方向,通过确定边界方向减少候选模式个数,从而降低RMD过程的复杂度;RDO早期终止是利用相邻模式编号的候选模式之间的相关性,减少其它无关候选模式的遍历个数,从而减少RDO的计算过程,进而降低帧内预测模式复杂度,加快帧内预测编码过程。本算法相对于HEVC测试模型HM-16.9,在视频输出码率增加很少的情况下,平均编码时间减少了42%左右,而视频的平均峰值信噪比平均值仅下降了0.11dB。针对帧间预测过程中编码单元(Coding Unit,CU)、PU结构划分类型增多导致编码运算量高的问题,本文提出了一种基于运动特性的HEVC帧间模式加速决策算法。首先,对不同运动区域下的CU块,利用当前CU与空时域相邻CU深度相关性减少当前CU深度的遍历范围;然后,依据当前CU与其时空域相邻CU及上一深度CU对应的PU在空间划分上的相似性,减少PU模式的遍历范围,加速帧间预测过程。实验结果表明,相比于HEVC测试模型HM-16.9,在不同编码接入方式下该算法可平均降低54%左右的编码时间,视频质量基本不变,且输出比特率增加较少。