迈进新世纪,为了有效地解决海量视频数据在传输与存储中所带来的困难,视频压缩技术得到了迅猛地发展。AVS(Audio Video coding Standard)作为我国独立设计与制定的视频编解码标准,它的出现打破了国外在视频编解码领域的垄断地位。在AVS中应用了很多创新技术,使得它拥有很好的压缩性能。然而它优越的压缩性能是用牺牲复杂度来换取的。因此,在不影响视频主客观质量的条件下,怎样去降低AVS的复杂度是当前一个研究热点。本文对开源x AVS编码器进行研究,其研究目的是从算法和指令优化两个方面在原始的编码器基础上进一步提升编码速率。针对这一目的,本文完成的工作主要包括了以下的内容:首先,根据整数变换与量化的特点,结合全零块预判决的本质思想,推导出了基于变换量化特点的全零块预判决条件。同时依据图像残差系数服从拉普拉斯统计分布的理论,推导出了基于拉普拉斯统计模型的全零块预判决条件。结合上述所得到的两个预判决条件,给出了一种基于混合模型的全零块预判决算法。实验结果表明此算法相比于已有的算法全零块检出率平均提高20%左右。然后,在基于混合模型的全零块预判决算法基础上,给出了一种基于全零块帧间模式选择提早结束算法。此算法能够提前终止帧间模式选择,跳过变换与量化操作,节省编码时间。实验结果表明此算法编码速率在原始编码器的基础上平均提高了27%左右,而峰值信噪比平均下降仅为0.05dB,传输码率平均上升仅为2.04%。最后,分析并统计了编码器各个关键模块耗时的情况。在支持AVX(Advanced Vector Extensions)多媒体指令集的平台上,分别对耗时较大和密集计算的模块进行优化,如计算SAD(Sum of Absolute Difference)、分像素插值、帧内预测以及变换量化等。与C代码模块相比,指令优化后的模块实现了单指令多数据流的处理方式。通过采用1080P视频序列测试,与原始的编码器进行性能比较,使用峰值信噪比、码率以及编码速率三个指标对比分析优化性能,其结果表明在峰值信噪比和传输码率保持不变的情况下,指令优化后的编码速率要比原始的编码器平均提高3.11倍。结合AVX指令集与基于全零块帧间模式选择提早结束算法,实验结果表明优化后的编码速率在原始编码器的基础上平均提高了3.37倍。