随着信息化时代的到来,计算机技术以及多媒体技术的迅猛发展,与数字化视频相关的应用领域不断拓宽。然而,视频的数据量是极其庞大的,对图像的传输、存储带来了极大的困难。因此,极其需要一种更加高效的视频压缩算法来解决视频数据传输及存储问题。H.264是目前最新的视频编码标准,与其它视频压缩标准相比,H.264具有更高的视频压缩性能,例如,在相同编码质量条件下,H.264所需码率大约为H.263的51%以及MPEG-4的61%。但是压缩率的提高是以增加编码复杂度为代价的。研究表明,H.264帧内编码和帧间编码的运算时间大约占整个H.264编码的85%左右。可见,通过提高帧内和帧间编码的速度对视频图像实时编码具有相当大的意义。本文对H.264帧间和帧内算法做了相关的研究,提出了一种新的亚像素搜索算法,改进了UMHexagonS算法,亚像素全搜索算法和快速帧内模式选择算法。第一,新的亚像素搜索算法是基于整像素和亚像素点之间的相关性而提出的。实验表明,与亚像素全搜索算法相比,该算法将搜索点数降至一半,而重建后的图像质量接近于全搜索算法。第二,由于UMHexagonS算法的搜索范围是固定不变的,若能动态调整搜索范围且搜索质量几乎不变,则可以减少搜索点,提高算法速度。改进的UMHexagonS算法正是基于这种思想而提出的,结果表明,改进的UMHexagonS算法在没有影响图像质量的情况下,减少了搜索点数,降低了运算量,提升了算法的运动估计效率。第三,由于H.264亚像素全搜索算法得到的点有可能是局部最优点,因此,提出了一种改进算法。改进的算法搜索所有候选点,防止了落入局部最佳点的可能性,避免了H.264亚像素全搜索算法的缺点。第四,帧内预测模式的选择和计算较复杂,提出了一种基于纹理方向的帧内预测模式选择算法。