本文主要研究我国正在制定的国家音视频编码标准AVS中的视频编码技术。在介绍了视频编码的基本理论和国际上两大系列视频标准的发展历程和技术特点后,本文详细论述了AVS视频标准的码流结构、解码过程和几项关键技术。在此基础上,本文对AVS视频的变换量化和熵编码技术作了重点研究,包括:提出一种结合能量集中率和去相关效率的变换基变换性能评价方法,同时考虑计算复杂度,在理论上选出了几组性能较好的8x8整数变换基,通过视频序列测试验证了该理论评价方法的正确性;提出了一类变换基的快速变换设计方法,降低块变换的计算复杂度,得到变换基(4,5,3,1)在所有性能较好的变换基中的计算复杂度最低。针对AVS最新版本量化模块中存在的变换非正交问题和高码率段的率失真曲线异常波动问题提出了相应的解决方案,使编码器的整体性能有一定提高;提出了一种结合QP分段机制和基于LEVEL跳转门限动态选择VLC编码子表的熵编码器设计方案,该方案在低码率QP段中的性能明显优于AVS_VLC,平均有0.3211dB的性能增益,并且在全QP段的性能较AVS_VLC有0.1453dB的增益,对AVS熵编码在低码率应用中的性能有明显改进;较大简化变换块系数熵编码中逃逸事件编码过程,减少一张查找表,减少存储空间开销,降低计算复杂度。因此,从整体上说,本文对AVS视频编码的变换量化和熵编码技术作出了进一步的改进。