随着信息时代的进步,信息的膨胀使市场对多媒体通信的要求越来越高,新近的国际视频编码标准H.264／AVC和国家视频编码标准AVS都得到了较高的压缩效率,在数字电视,多媒体通信等方面得到广泛应用。量化是图像、视频压缩编码的重要手段,在各种图像、视频编解码标准中是必要的一环。但量化也会引入量化误差,造成图像质量的失真。本文对量化器的基本原理进行了阐述,介绍了几种经典的量化器和视频编码中广泛应用的优化量化方法。这几种优化量化方法主要包括帧级的码率分配和量化步长调整、宏块级的量化步长调整和量化舍入参数调整以及基于率失真理论的变换系数级的优化量化值选取方法。本文在现有技术基础上提出了一种适用于AVS编码标准的变换系数级优化量化方法,该方法通过为每个变换系数调整量化器的死区(dead-zone)宽度、舍入参数,从而达到精细的率失真优化。其中提出了一种为非归一化变换系数在变换域直接计算编码失真的方法,提高了率失真优化的速度；提出了适用于AVS二维可变长熵编码的单个变换系数优化量化流程和联合多个变换系数的联合优化量化流程。本文还讨论了基于AVS的上下文对数算术熵编码情况下的优化量化方法。提出的方法能有效提高编码效率。