为了节约存储空间和传输带宽,视频编码早已成为国内外研究和工业应用的热点之一。至今已成功制定出一系列的视频编码标准,尤其是以国际上的H.264/AVC和国内的AVS为代表的新一代视频编码标准,在压缩性能上取得重要突破,受到各学术机构以及多媒体工业界的高度重视,引领了新一轮的研究热潮。由于视频编码技术的不断进步,编码算法的复杂度大大增加,再加上对高图像分辨率的追求,使新一代高性能视频编码器的设计实现成为重要的研究问题。本文围绕新一代视频编码器的高效实现展开研究,其中“高效”包含两方面的含义,一是要提高编码器的处理性能,即提高编码速度,另一方面还保证编码器的压缩效率,即保证编码质量。针对上述研究目标,本文对编码器中的两个关键部件——环路滤波模块和运动估计模块进行了深入的研究,在结合编码算法具体特点后提出一系列流水加速方案和自适应算法;并从多处理单元协同工作的角度对并行编码结构进行了探讨。具体地,本文的主要研究内容如下。第一,环路滤波是视频编码中一个十分复杂的环节,大量自适应的条件跳转不可避免地出现在算法内层循环中,阻碍了流水方式的处理。尤其在DSP平台上对环路滤波进行并行设计十分困难,目前缺乏相关方面的研究。为此,本文分别对H.264/AVC和AVS环路滤波提出相应的DSP深度流水解决方案。针对H.264/AVC环路滤波,通过掩码操作和条件存储避免自适应边界滤波过程中出现的条件跳转问题,同时将对称位置的像素、条件或掩码打包,进行“对处理”方式操作,从而提高流水并行度;通过二次流水技术解决边界强度判定过程中的多重条件嵌套问题;并从数据流角度改进全局滤波控制,实现二级片内存储结构的设计。针对AVS环路滤波,根据滤波算法的特点,将整个滤波过程重新划分成多个功能相对独立的子过程,从而实现较规则的滤波控制流程,并进一步通过细致的功能单元分配实现更高效的流水设计。第二,运动估计是编码效率的主要来源,也是最严重的处理瓶颈。大范围、变块大小搜索技术是增强运动估计性能的主要途径,但在提高编码效率的同时也大大增加了计算复杂度。为了解决这一问题,本文提出索引搜索技术。首先,在算法层面分析了大范围运动估计的设计难点,得出加速全局采样搜索是高效设计的关键;并在保证编码效率的条件下,采用临时预测矢量替代策略避免变块大小运动估计中的处理相关问题。其次,在结合DSP平台的特点后,设计了三条高度并行的流水线,在不减少搜索点数量的情况下仍然可以节省大部分的运动估计运算时间,同时处理性能也优于快速搜索算法的实现。采用索引搜索技术设计大范围、变块大小运动估计,既保证了高编码效率、又实现了高编码速度。第三,根据图像运动特点,对搜索范围实施动态调整是减少运动估计复杂度的一种有效途径。为此,本文提出自适应搜索范围算法ASR,对编码模式最复杂的B帧图像进行了搜索范围控制。ASR分为帧级自适应搜索范围缩放算法F-ASRS和宏块级自适应搜索范围算法MB-ASR。F-ASRS与以往算法的思想不同,通过分析P、B帧图像中的运动特点得出一个基于线性位置的搜索范围缩放关系;并通过进一步统计建立一组自适应域值,对图像整体运动程度进行预先判断,从而实现整体搜索范围缩放。MB-ASR则利用邻近块的运动信息实现局部搜索范围控制。通过帧级和宏块级搜索范围的共同调整,ASR算法有效地避免了B帧中不必要的搜索计算。第四,采用多处理单元并行编码是高效实现视频编码器的一个主要途径,目前宏块级并行编码方式能够完善地支持混合框架下的视频编码。针对宏块级并行编码方式具有很高的数据通信频率这一不足,本文通过重组宏块以及调整处理次序,在编码时间基本不变的情况下,将宏块并行结构扩展成宏块组并行结构和宏块条并行结构,从而有效地降低了数据通信频率。并通过建立效力估计模型,研究了编码流程、并行结构、图像内容差异以及平台因素对宏块级并行编码效力的影响。最后给出了一个以本文提出的各项技术为核心的并行编码器产品实例。