新的视频编码标准H.264/AVC在压缩比和编码质量上比原有的视频编码标准都有了明显的提高。在相同的视觉感知质量上,H.264/AVC编码效率比以往的视频编码标准提高了50%左右,并且有更好的网络友好性。H.264/AVC在基本框架下对其主要关键部件都做了重大改进,如多模式运动估计、帧内预测、基于内容的变长编码、4×4二维整数变换等,这使得其实现难度要显著高于以往的视频编码标准。总之,H.264性能的改善是以增加复杂性为代价而获得的。本文介绍了H.264/AVC视频压缩编解码标准,以及作者分别对视频编码端帧内预测优化算法和解码端的宏块级帧场自适应帧内预测和残差计算的硬件实现研究。在编码端,针对全搜索算法的高计算量和难以实现实时编码,提出了一种快速的帧内预测算法。该算法根据量化系数Qp,缩小预测模式的选择范围;通过判断全零或近似全零残差块,引入提前终止方法;并结合最优预测模式和次优模式的方向相邻性,进一步减小预测的计算量。仿真结果表明,该算法能降低40%~96%的帧内预测计算量,同时保持视频的图像质量几乎不变。对解码端主要关注其硬件实现,对支持宏块级帧场自适应的H.264/AVC帧内预测和残差系数反变换反量化进行深入分析,提出了一种易于硬件实现的H.264/AVC解码器的帧内模块算法并给出了其硬件结构,采用流水线方法,分解计算等多种优化计算方法提高硬件系统的并行度。从实验结果看,作为硬件实现方案,完全能达到实时要求。系统已经通过ALTERA的STRATIXⅡFPGA验证,工作频率可达到80MHz,完全可以达到实时解码。