为了实现异构网络、不同的接入设备以及不同的多媒体压缩数据格式之间的无缝连接,通常要求视频数据能够在不同编码标准和多媒体内容格式之间实现动态实时转换,即视频转码。视频转码已成为网上多媒体传输的核心技术之一。本文主要针对H.264空域分辨率下采样转码、MPEG-2到H.264转码和MPEG-2到H.264 FGS可分级转码过程中的一些关键问题展开研究。 本文首先介绍了目前主要视频压缩编码标准及其应用领域,并详细地阐述了H.264.视频标准先进的压缩编码方法。针对目前国内外相关转码技术的研究,深入剖析了视频转码中的关键技术,并对其内部机制进行了透彻分析,为后续基于H.264视频转码技术的研究提供必要的转码知识。 针对H.264空域分辨率下采样转换编码,设计一个变换域计算失真度的空域分辨率减少的帧内编码帧的转码架构,并提出一种快速的模式决策算法。该算法利用输入码流和输出码流的编码模式之间的相关性,找出分辨率减少后的与最优模式较接近的一些次优的编码模式为候选模式,这样省去了相关性较小的编码模式的选择过程.实验结果表明提出算法在转码性能优于采用JVT-G013的快速模式决策算法。 基于变换域帧内预测和漂移误差分析,提出一个完全变换域的MPEG.2到H.264转码方案。对于帧内编码帧,利用几种帧内预测信号(水平、垂直和DC模式)和率失真(R-D)优化能够在变换域方便计算,提出一个有效的帧内编码帧的转换方法。在转码帧间编码帧时,首先分析出变换域MPEG-2到H.264转码中存在运动补偿不匹配导致的误差漂移主要来源于量化误差和插值误差。插值误差是由于MPEG-2和H.264采用的插值滤波器不同导致的,并指出插值误差漂移是变换域MPEG-2到H.264转码时所特有的现象。实验结果表明插值误差是视频质量降质的主要因素,尤其在量化参数较小时.然后在变换域推导出基于整数变换域的运动补偿算法,并给出了插值误差漂移补偿量的一个闭式解。在此基础上,提出了基于变换域误差漂移补偿的MPEG-2到H.264转码方法。实验结果表明仅补偿量化误差或插值误差均不能阻止误码进一步扩散；在图像整体降质中插值误差分量占有主要成分,且在量化阶较小和连续帧间编码帧数目较少时尤其明显；提出的基于变换域的全补偿架构几乎可以达到像素域解码器级联编码器架构的转码质量,但复杂度则大大降低了。 最后,分析了像素域MPEG-2解码器级联H.264 FGS编码器参考转码方法,推导R-transform变换(HT系数直接转换为DCT系数)的算法,提出一种简化的变换域闭环转码方法,并证明该闭环转码方法具有与参考方法几乎一致的FGS增强层。考虑开环转码方法的视频降质和实现复杂度,结合H.264 FGS解码过程,给出了一种适合于高码率情况下具有较好的转码性能的开环架构。