下一代视频编码标准H.265是视频编码专家组VCEG于2005年提出的长远规划,计划于2005-2008年间完成对H.265的完整需求定义并开始详细算法的设计。在技术研究进展顺利的情况下,将于2009-2010年间完成H.265标准的制定和发布。H.265标准的制定主要是围绕着现有的视频编码标准H.264,在保留原来的某些技术的同时也对一些相关技术加以改进,并增加了一些新技术。这些技术可以改善码流、编码质量、延时和算法复杂度之间的关系,以求达到最优化设置。本文则是基于这些技术,优化自适应预测误差算法,提高编码速度。本文首先简要介绍了视频编码的必要性和可行性、视频编码标准的发展历程、下一代视频编码标准的当前研究现状。接着介绍了当前视频编码标准H.264的主要功能模块,并从码率控制和实际应用两个方面分析了H.264的不足。然后介绍了下一代视频编码标准的关键技术,并对空间域和频率域的自适应预测误差编码进行了详细的分析。在已有的自适应预测误差编码的快速模式决策算法的基础上,本文提出了一种基于上下文的自适应预测编码域算法,该算法可以根据得到的块的边缘信息自适应地预测当前块的边缘方向,以确定它的编码域。最后,对本文提出的算法进行了大量的实验,结果表明,本文改进的快速模式决策算法不但可以降低编码的复杂度,而且可以提高编码效率,并且具有一定的自适应性。