H．264/AVC(文中简称H．264)采用了一系列先进的编码技术，在编码效率、抗误码能力、网络适应性等方面表现出超越以往任何压缩标准的优势。同时引入了大量复杂度较高的编码算法，极大地增加了编码器的计算复杂度。 近年来嵌入式技术取得了长足进步，高性能的DSP数字处理芯片得到迅速广泛应用。TMS320DM642(文中简称 DM642)以其显著的处理能力和高度的灵活性和可编程性，可在单个芯片上处理音频、视频、图形和通信数据流，特别适合H．264视频编码器的开发。 本文对H．264视频压缩编码标准作了深入研究，全面分析各个算法模块的原理和复杂度，提出了H．264编码器软件的整体优化策略，以减少编码时间，提高编码效率。在此基础上，针对H．264编码器中的关键耗时模块，重点研究了运动估计算法的优化处理方法，即采用不对称多六边形网格混合搜索算法(UMHexagonS)进行整数像素运动估计，采用带金字塔搜索模式的中心偏置分数像素搜索算法(CBFPS)进行分数像素运动估计，并使用早期终止策略。与传统的穷尽搜索方法相比，取得了较高的编码性能，减少了计算量，适用于高清或视频质量要求较高的环境。 为了进一步提高H．264编码器的实际应用性和扩展性，本文还对编码器软件在DSP(DM642)上的移植作了设计研究，给出了一个详细的软硬件解决方案。并根据DM642处理器的硬件结构和特点，借鉴一些嵌入式系统常用编程和优化技巧，提出了一系列可行适用的优化方法。