作为当前最高效的视频压缩标准，H.264代表了目前视频编码领域的最高水平，是最近的研究热点。由于在编码效率上的提高和低码率网络应用中的潜在优势，H.264将会被广泛的应用到视讯产业的各个领域。H.264之所以获得优越性能，是以提高运算复杂度为代价的。因此在现有的软硬件基础上来实现和优化H.264的编码算法，具有一定的研究价值和应用价值。 本论文详细地总结了H.264视频编码层的关键技术，着重考察了H.264标准的算法复杂度特性和编码性能，对参考模型在编码速度、图像质量方面做了详细测试和分析。然后，本论文对该参考模型在PC上通过对整体架构的调整、C代码级优化、部分算法的改进和优化，并实现了PC机上H.264Baseline的QCIF(176*144)实时编码。 然而H.264的算法模型仅仅是作为一种算法的阐述而存在。为了将其应用到多媒体终端，在TI的TMS320DM642平台上，本论文以X264为基础设计并实现了H.264视频编码系统。该系统以DSP为处理平台，通过PCI总线将原始数据(作为预览)和编码数据(作为存储)同时传输至PC机。根据DM642的硬件平台特性，充分利用了DSP的并行运算能力，通过使用内存和Cache策略、开启DMA通道、改写C和线性汇编等优化方案，实现了H.264Baseline的CIF(352*288)实时编码系统。