近些年来由于第三代移动通信技术的日益成熟以及人们对高清视觉享受的强烈需求,多媒体视频压缩处理技术得到了前所未有的发展。由ITU-T和ISO／IEC组织的联合视频工作组(JVT)推出的新一代视频压缩标准H.264是目前最先进的视频编码标准。较之以往的视频压缩标准,H.264无论是在网络适应性还是在视频压缩效率方面都表现出了极大的优势,成为多媒体业务应用中广泛采用的视频编码标准。然而,H.264良好编码性能的获得是以高计算复杂度为代价的,故降低编码复杂度,提高编码速度成为H.264在实时流媒体业务中得以广泛应用的关键所在。本文根据H.264视频编码器所采用的技术特点,研究和设计低复杂度的H.264编码器系统,主要完成了以下工作：1.总结和分析现有的H.264视频编码器系统结构和关键技术(如JM、x264以及t264等H.264开源编码器),设计了H.264标准编码器的系统架构,并在此基础上使用C语言实现了该编码器。2.对本文设计开发的H.264标准编码器中的I帧帧内预测算法以及P帧帧间预测算法进行优化。实验结果表明,与各开源标准编码器相比,经过算法优化的H.264编码器在维持重建图像质量以及输出码率变化不大的情况下,编码速度得到了明显的提高。3.实现并优化了标准C版本的H.264标准高清解码器,目前该解码器支持Main Profile级别选项,Baseline Profile以及High Profile级别的部分选项。实验表明,在输出同样质量重建图像的情况下,与各开源标准解码器相比,本文设计开发的高清解码器速度提升明显。4.提出了一种基于纹理因子与误差均值因子的新联合率失真模型TMJRDM。在这种新率失真模型中,纹理因子与误差均值因子的联合加权值被用作新模型中的率失真因子。实验结果表明,该算法能够很好地提高重建图像的主观质量,同时也没有引起较为明显的客观质量的退化,尤其是在低比特率的情况下效果更为明显。