以视频为核心的多媒体通信在过去的20年间得到了迅猛的发展。大量数字视频压缩算法的不断涌现令视频传输和存储的效率越来越高。与此同时,无线与网络技术的爆炸式发展也深刻的影响着视频应用的发展。为了满足人们越来越多样和越来越高质量的视频应用需求,ITU-T和ISO/MPEG制订了一系列的视频压缩编码国际标准,目前最新的国际标准H.264/AVC以其良好的压缩性能和友好性得到了广泛的认同和使用。近年来,视频编码的发展逐渐显现出两个趋势。一方面,越来越广泛的异构网络及终端环境下的视频应用,对压缩后视频流在传输和使用过程中的适应性和容错性提出了新的要求。作为解决这一问题的有效手段,可分级视频编码成为研究的重点,而H.264/AVC也相应的推出了可分级编码的扩展,即H.264/SVC。另一方面,视频应用将可预见的逐步向更高清晰度、更高质量的方向发展,进一步提高视频压缩编码效率的需求仍旧很迫切。为了解决这一问题,ITU-T和ISO/MPEG又在为推出为下一代的视频编码国际标准而努力。本论文的研究主要围绕可分级视频编码和面向下一代高效视频编码的若干技术展开,并取得了以下创新点：由于H.264/SVC空间分级增强层采用了更多的编码模式,对实时编码器设计提出了挑战。本算法通过利用了层间宏块模式的相关性、层间编码QP的相关性减少可用编码模式个数,而后利用相邻宏块的相关性提前终止模式选择过程,从而避免了在对压缩效率无益的模式上耗费计算资源。大量的编码实验表明该算法在大大加快整体编码速度的同时,并没有对编码器的压缩性能带来损伤。2.基于自适应滤波器的H.264/SVC层间帧内预测的改进技术由于H.264/SVC空间分级编码的层间帧内预测采用的上采样滤波器是一维多相位4抽头FIR滤波器,其在抗混迭失真性能和保持图像二维特性等方面存在着不足。本论文中提出了两种利用自适应Wiener滤波器对层间帧内预测的改进技术,即采用二维自适应上采样滤波器的层间帧内预测算法和针对层间帧内预测结果的二维自适应优化滤波算法。这两种方法都能有效的克服现有的层间帧内预测机制在预测性能上的不足,令预测的准确度大大提高。实验表明,这两种算法最终都能使H.264/SVC帧内编码压缩效率得到有效提升。由于B宏块具有良好的去除帧间相关性的特性,因此在当前和未来的视频编码中得到大量使用。本算法针对B宏块的双向预测模式,通过自适应选择机制在时域、空域和时-空域联合的不同的运动预测信息之间进行判定,从而提高运动矢量预测精度,在降低了预测残差的同时减少了运动相关的边信息传输。实验证明本算法能够有效的提高B帧的压缩效率,尤其对于低码率的应用环境,性能的提升更为明显。