H.264标准是由国际电信联合会和国际标准化组织共同发展的下一代视频压缩标准。H.264/AVC视频压缩标准采用了很多新技术,如整数DCT变换、多参考帧的运动估计、多种宏块分割模式运动估计、最佳编码模式采用了率失真优化技术等。其中多帧和高精度运动估计以及率失真优化技术在大大提高视频质量的同时,使得编码器复杂度提高了很多。TI公司的TMS3206416是专门面向多媒体应用而设计开发的32位定点DSP芯片,是当前运算能力很强的数字信号处理器,可以很好的满足视频信号处理的要求。因此,研究TMS3206416特殊的硬件/软件结构,发挥它的高速处理能力,提高视频信号处理软件执行效率有很重要的实用价值。本论文主要工作包括4个部分:首先,对H.264/AVC视频压缩标准进行研究,对运动估计原理进行总结,对全零块检测技术中的阈值检测方法进行探讨,对全零块检测阈值进行了演算推导,最后对最大值阈值判决进行了改进。其次,帧间模式选择算法上,详细分析了主观匹配准则图像结构相似度,对相应模式选择代价函数进行了修改,接着结合结构相似度的匹配准则和全零块最佳阈值作为提前结束判断标准,提出一种改进的快速模式选择算法。再次,在视频处理DSP平台上,论述了TMS3206416芯片的内核结构和外围设备,结合TMS3206416嵌入式系统的特性,分析了程序级代码优化与汇编级优化的方法。重点讨论了流水线、循环展开、指令并行、数据打包技术,介绍了一些特殊单指令多数据流指令;研究利用SIMD(Single Instruction Multiple Data)指令并行优化了SAD模块,DCT模块。最后,通过实验结果的对比,证明本文所提出的改进的快速模式选择算法,在保持良好的视频质量情况下,使得编码时间显著减少。另外,本文对H.264中影响编码速度的瓶颈函数,通过指令并行、流水线等方法对其进行了优化,取得了较好的优化结果。