存储或传输图像或视频必须占用大量的数据通道和空间,现代图像和视频压缩技术使我们有可能对视频信息进行有效的传输和存储。H.264/AVC是由ITU-T的视频编码专家组(Video Coding Expert Group-VCEG)及ISO/IEC的活动图像专家组(Moving Picture Expert Group-MPEG)联合研究开发的高效视频压缩标准。它的应用范围包括可视电话、视频会议、TV、DVD以及硬盘存储、流媒体、数字摄影、数字视频制作等等。和已有的视频标准,如MPEG-1、MPEG-2、MPEG-4相比,H.264/AVC虽然仍采用基于预测和变换的混合编码架构,但通过采用大量的改进的编码工具,在编码重建图像主客观质量相同的条件下,它可以提供较传统视频标准至少一倍以上的压缩效率。本文围绕H.264编码器以及解码器的设计与实现,对部分关键技术进行了研究。在编码端,论文的工作重点是如何在恒定比特率输出的条件下,改善H.264编码器码率控制单元的性能,提高H.264编码器的整体质量。论文首先总结归纳了包括比特约束模型、率失真模型以及H.264码率控制中存在的难题等码率控制关键技术;然后,通过实验,论文分析了现有的H.264一次和二次编码器的设计方案、性能以及存在问题,在此基础上,论文提出了一种基于滑动窗二次编码的H.264编码器设计和实现方法;最后,通过大量实验,论文给出该方法与已有的H.264二次编码器的性能比较结果。在解码端,论文重点研究了低成本H.264高清下变换解码器的设计和实现方法。首先,论文分析了传统高清下变换解码器方案的性能并指出其用于H.264高清下变换解码中的局限;然后,论文在系统分析H.264高清码流特性的基础上,提出了一种基于H.264高清码流特性的H.264高清下变换解码器方案;最后,论文给出了新方法与传统方法在硬件需求、计算量以及重建图像质量等方面的比较结果。另外,针对混合编解码器重建图像降质比较明显的问题,论文还提出了一种称为三重滤波器的去振铃效应滤波器。通过引入纹理活动度检测滤波器,该滤波器不但能够有效去除H.264重建图像中的振铃效应,而且能够有效的保护纹理细节,使得图像纹理细节不因为滤波而过于模糊。