随着社会各方面的快速发展，工业生产、国家安防及日常生活中对网络视频监控系统的要求越来越高，但是目前在网络视频通信的即时性和清晰度等方面都还存在很多技术难点，同时，监控系统的广泛应用对成本问题也提出了更高的要求，将嵌入式系统代替PC机的呼声也越来越高，因此在该方面的研究具有广泛的应用前景和实用价值。H.264是由联合视频组(JVT)制定的新一代视频压缩编码标准。其不仅比H.263和MPEG-4节约了50％的码率，而且对网络传输具有更好的支持功能。这对目前因特网传输多媒体信息具有重要意义。TMS320DM642是TI公司推出的一款针对多媒体处理领域应用的DSP，它在C64x的基础上，增加了很多外围设备和接口，是嵌入式视频系统设计的首选。论文对H.264视频编码技术进行了深入的分析，借鉴国内外优秀算法的经验，提出了一种改进的帧内预测编码算法，以提高H.264的编码效率，改善网络通信即时性问题。同时利用DM642来完成前端视频处理，设计出具有应用前景的视频监控系统。在研究过程中，H.264协议算法的优化是一个技术难点。论文针对帧内预测算法运算量大的特点，提出了一种改进的帧内预测模式选择算法，利用简化的率失真函数判断方法来减小帧内预测复杂度，在不影响原有图像质量的基础上提高编码的运算时间。考虑到部分C语言程序在移植入DSP后会由于数据结构和程序结构上的差别而影响硬件环境的运行效率，因此论文提出了五步优化法，对移植后的程序进行了全面优化，设计了与硬件结合紧密的汇编语言程序，将汇编语言代替部分C语言来实现算法。利用完全针对C6000系列DSP开发的线性汇编算法来优化最终移植入硬件的程序也是论文的关键技术和创新点。线性汇编算法充分的利用了DSP的硬件优势，大大提高了整个程序的运行效率，节约了编码时间。实验表明，优化算法提高了帧内预测模式选择的效率，结合DSP硬件系统的汇编语言改写和线性汇编程序也大大提高了代码效率。