无线通信和多媒体技术将是未来几年信息和通信行业的发展重点。H.264标准是一个面向未来IP和无线环境下的新数字视频压缩编码标准。H.264通过使用一系列的新技术，具有更高的编码效率，其码流结构网络适应性强，能够很好的适应IP和无线网络的应用。基于H.264标准的编码和码率控制正是目前的一个研究热点。 本论文对H.264视频编码算法和码率控制策略进行了比较深入的研究。对H.264编码的基本知识、基本原理、关键算法以及使用的一些新技术，特别是帧内、帧间编码、变换和量化技术、熵编码以及去块滤波效应等进行了比较详细的分析和论述。同时介绍了码率控制的基本原理，对经典的TM5、TMN8策略进行了简单描述，并针对H.264编码，对JVT-F086、JVT-H017策略进行了比较详细的分析。通过参考模型JM9.6，对H.264的编码算法和码率控制进行了比较全面的测试和分析，根据分析结果，对实时编码提出了一些参数优化设置的建议。 对H.264整个编码过程中复杂度最高的运动估计部分，本论文进行了优化改进：在NGDS算法的基础上，增加了梯度搜索的判决，设计了INGDS算法。使用INGDS算法在JM9.6中进行了全面的对比测试，测试数据表明，此算法比JVT所推荐的UMHexagonS算法性能提升了40﹪～50﹪，而精度和鲁棒性基本保持不变，总体而言较好的提高了编码性能。同时对码率控制策略的跳帧算法进行了改进，提出了一种结合MAD比率和运动矢量来分析图像剧烈程度并进行跳帧控制的方法，提高了码控效果。