随着我国3G技术的发展,多媒体通信将成为新一代通信系统的显著特征和主要业务,而视频编码技术是多媒体技术的基础和核心。AVS-M标准是中国自主制定的数字音视频编码系列标准(AVS)中的第七部分:移动视频编码标准。可广泛应用于交互存储媒体、宽带视频业务、多媒体邮件、远程视频监控、视频会议、可视电话等多个领域,是我国面向下一代移动通信的视频编码标准。AVS-M标准仍基于以前视频编码标准的运动补偿混合编码方案,有效提高了编码效率。本文首先分析AVS-M标准的技术特点,如新型帧内预测、多尺寸编码块模式、多参考帧预测、1/4像素精度运动矢量、整数变换量化、去方块效应滤波器等。AVS标准工作组提供的AVS-M参考编码器软件虽然编码质量高,易读性好,但复杂度高、代码运行效率较低。本文从实时的角度对编码器进行了优化。重点分析了AVS-M标准帧内预测编码的基本原理。AVS-M采用空域上9种模式预测和拉格朗日率失真优化(RDO)模型来进行帧内预测模式选择,算法复杂度很高。本文对其中计算量较大的预测模式选择部分进行了深入研究,通过实验分析提出了两种针对帧内预测的改进算法。一种通过分析和验证视频图像的空间相关性和时间相关性,利用自然图像固有的边缘方向信息,针对帧内预测9种亮度模式提出了快速模式选择算法。以RDO为判决依据,使用经验阈值自适应的停止全搜索过程,快速进行帧内模式选择。实验结果表明,本算法可有效降低运算复杂度,提高编码效率而PSNR和输出码率均无明显变化。另一种是基于前向和后向的双向选择算法。传统的单方向预测方法导致了相同方向上的样本点被赋以相同的预测值,然而在视频图像中一个样本点与它相邻点的亮度值通常都是不同的。此外,一个样本点与其相邻环绕样本点的中值很接近,双向预测的结果通常比单向预测要好。所以本文结合加拿大学者Teng提出的双向预测思想,把4×4块分成三个区域分别编码。实验证明,本算法有效的提高了预测准确度,减少了变换量化系数。除去对算法的研究之外,本文还对AVS-M参考模型从代码结构上进行优化。通过分析,指出了优化的方向和途径,优化后速度得到显著提高。详细介绍了多媒体指令集,有效地运用MMX/SSE/SSE2技术在PC上对AVS-M编码器中的运算密集度大的模块进行优化,并对优化过程和关键技术做出说明。本文在最后一章对全文进行了总结,并且对今后进一步的研究方向进行了展望。