在过去的20年时间里,随着多媒体处理与网络通信的应用普及,视频编码技术得到了迅猛的发展,也随之促成了一系列面向不同应用的视频编码标准的诞生,比如最为著名的H.26x系列与MPEG系列视频编码标准。视频编码标准的不断推陈出新,造就了视频编码效率的成倍提高,然而所有以往的视频编码标准都构架于基于块的混合视频编码框架之上,当前工业界和学术界关于视频压缩编码技术的研究热点也都集中在混合视频变换框架的四个核心编码模块之上,即预测编码、变换编码、熵编码以及量化技术。因此,对这四个核心模块的编码理论进行研究,对其进行发展与完善,并在此基础之上,研究与提出新的高效的编码算法,具有十分重要的理论与现实意义。本文的贡献在于对高效视频编码中的应用理论进行了分析与总结,对部分理论进行了发展与完善,并在理论研究的基础上提出了新的高效视频编码算法,具体为：在预测编码方面,从理论上分析了预测编码的增益来源,对目前国际上最为先进的帧内预测编码算法与帧间预测编码算法进行了深入研究,对其基本思想、实现细节以及所存在的问题都进行了具体分析,进而指出了帧内和帧间预测编码算法进一步发展的方向。在变换编码方面,利用矩阵理论以及信息论理论采用数学推导形式从理论上系统的阐述了在均方误差失真度量准则下KLT在率失真意义上的最佳性,以及DCT在自然图像编码上的准最佳性；提出了DCT在预测残差编码上的局限性,提出了一种新的对变换编码性能进行度量的率失真性能亏损度量方法；提出了基于纹理的自适应变换方案。在熵编码方面,指出了变长编码在实现高阶编码以及自适应编码上所存在的缺陷,从理论上证明了二元算术编码与多元算术编码在编码性能上的同效性,论述了二元算术编码的最佳概率模型数目；提出了二元算术编码应用中的二元化和上下文模型设计准则；提出了基于CABAC的针对于变换系数的新的编码算法；提出了新的帧内预测模式的自适应熵编码算法。在量化技术方面,对与其息息相关的率失真优化理论与算法进行了研究,对拉格朗日优化算法原理进行了理论上的剖析,并对其在视频编码中的率失真优化应用进行了总结与归纳,提出了多块联合率失真优化思想,将其应用于帧内预测模式选择的率失真优化算法之中。