数字音视频编解码标准(Audio and Video coding Standard,AVS)是我国自主制定的、具有自主知识产权的第二代信源压缩编码技术标准,它具有性能高、计算复杂度低、专利授权费用低等优点。它的实施不仅标志着我国在多媒体处理等领域的研究处于国际领先地位,而且还将创造可观的经济效益和社会效益。但目前AVS的编解码芯片与软件还不太成熟,制约了AVS产业化的推广,不利于AVS在新一代数字音视频产业的应用。因此,对AVS编码器的研究具有极为重要的意义。本课题研究的目的就是对AVS-P2视频编码器进行优化,研究核心模块的快速算法,提高编码速度,为以后在DSP等硬件平台上达到实时编码、用于视频监控等领域打下坚实的基础。论文的主要工作包括:介绍常用视频压缩技术中的熵编码、预测编码和变换编码的特点以及国际主要视频压缩标准MPEG系列和H.26x系列的发展历史及特点,并将AVS与H.264、MPEG-2、MPEG-4标准的性能进行了分析与对比,以突出AVS的优越性;深入研究AVS视频标准的系统结构,着重介绍AVS的核心模块,包括整数变换与量化、帧内预测、帧间预测、1/4像素插值、熵编码及环路滤波,这些都为编码器的优化奠定了基础。对AVS视频编码器进行优化。首先是调整编码器的整体结构,去除冗余,使各模块清晰明了,便于以后对各模块做独立研究。然后采用各种优化策略对结构调整后的编码器进行代码优化,提高运算能力。模块优化主要是对插值模块、环路滤波模块、帧内预测模块和熵编码模块进行优化。插值模块的优化是从插值函数的调用、插值图像的边界单独处理、代码优化等方面进行的,而环路滤波模块的优化主要是从边界滤波强度的获取方面进行的。实验证明优化后的AVS编码器编码时间平均减少27%-34%。研究了AVS编码器算法,主要是对运动估计算法和环路滤波算法进行了研究。针对AVS中的运动估计算法,提出了两种快速优化方法:一种利用偶数二次抽样计算绝对误差之和(sum of absolute difference,SAD)来减少运算量:另一种是根据全零块提前判定跳过大量的计算和提前退出搜索来节省编码时间。而最终目的是把这两种方法结合起来应用。实验结果表明,把这两种方法结合起来取得的效果比单独的任何一种方法都好。然后通过对大量运动搜索算法的研究,提出了一种新的搜索算法,即把二次抽样、菱形搜索和矩形搜索结合起来。实验结果证明,这些算法在保证图像质量的前提下,可节省总的编码时间5%-22%。对AVS环路滤波算法进行研究后,根据图像之间的相关性,提出了一种快速的像素级AVS环路滤波算法。实验证明在保证图像主客观质量基本不变的前提下,该算法可减少环路滤波的时间达40%-60%,有利于提高整个编码器的速度。