随着广播以及IP网络传输技术的发展，人们对网络高清视频的需求及应用越来越广泛。伴随其进行的视频压缩编码技术也在不断的发展进步，从上世纪末兴起的MPEG-2编码格式，到近十年流行的H.264先进视频编码标准，再到今年年初发布的下一代高性能视频压缩标准HEVC，压缩性能不断提升。视频转码技术作为旧标准向新标准逐步进化的一种重要方式得到了极大的重视。普通的转码技术不能兼顾转码效率和输出码流质量，尤其是在保证输出视频主观质量良好的情况下，转码速度无法达到用户的要求。本文针对上述问题，对多种视频格式之间相互转码，以及为适应网络和终端需求进行降码率转码进行了深入的研究和实验。首先，本文对MPEG-2向H.264的快速转码算法进行了详细的分析，提出了多种方案并进行实验，证明了在转码过程中有效利用解码端运动矢量和宏块模式信息可以很好地提升转码效率。接着，本文针对H.264降码率转码以及H.264向HEVC的转码分别提出了基于有效利用解码端宏块模式信息和运动矢量的快速帧间模式判别算法，大幅减少了转码中再编码过程的运算复杂度，提升了转码效率。实验结果表明，本文提出的两项算法在转码速度和编码质量上都得到了良好的均衡，并且对比传统的转码方案CCPDT，在转码速度上具有3倍和5倍的提升，为高清视频实时转码系统的设计开发提供了可行的方案。