2011年,AVS2-P2(视频部分)国标立项,时至今日,经历了4个年头。在这4个年头里,AVS工作组不断完善AVS2视频编码标准,其性能与当今盛行的国际视频编码标准HEVC不相上下。由于AVS2视频编码标准是我国具有自主知识产权的技术,不需要再向国外交付大量专利费用,所以AVS2视频编码标准在我国的普及指日可待。因此,研究AVS2视频编码标准,并对其进行优化和改进具有重大意义。本文首先介绍了AVS2的视频编码框架和帧类型以及块结构。然后详细介绍了AVS2视频编码的关键技术和创新,主要从帧内预测、帧间预测、变换、熵编码和环路滤波5个方面分别进行分析和阐述。然后,详细介绍了AVS2参考软件RD7.0中的帧内快速模式选择算法,主要包括RMD过程和RDO过程。根据HEVC的相关文献和相邻块间的像素强相关性,提出适用于AVS2编码标准的基于MPM的帧内快速模式选择算法,减少了进行RMD的模式数,从而降低了编码复杂度,提高了编码效率。最后,本文提出基于PU大小的帧内快速模式选择算法。首先对不同PU大小情况下的最佳模式在9种候选模式的概率进行统计。然后根据统计进行分析,提出基于PU大小的帧内快速模式选择算法。接着对算法进行仿真以及对仿真结果进行分析。最后将基于MPM的帧内快速模式选择算法和基于PU大小的帧内快速模式选择算法相结合,进一步降低编码复杂度,提升编码效率。