H.264/AVC是国际上最新的视频编解码标准，是未来几年内视频编码技术研究的主要方向。本文基于H.264/AVC视频编码标准对帧内预测和熵编码算法进行了研究，并采用SIMD技术对解码器进行了优化。 首先，概述了视频编码领域常用的编码算法，重点介绍了二进制编码的原理。 第二，叙述了H.264/AVC的主要内容并且介绍了其编码性能。 第三，研究了帧内预测技术，针对预测系数的预先判定提出了一种自适应的编码算法，与JM75中的方法相比较，压缩比提高3～5％。 第四，研究了基于上下文的自适应二进制算术编码算法(CABAC)的实现。测试并分析了CABAC的压缩性能，在CABAC基础上提出了一种改进的自适应的二阶模型编码算法(2-CABAC)。该算法把bin string转化为thetastring，通过对theta string的编码提高压缩比。给出了算法的原理、实现方法和程序流程以及测试结果，并且对2-CABAC的局限性和进一步研究的方向进行了探讨。 最后，针对当前通用处理器上普遍采用的多媒体指令技术，在Pentium 4上采用MMX、SSE和SSE2等SIMD指令集并且结合c的编译技术对JM75参考模型的解码器结构进行了调整，对运动补偿、整数变换等算法进行了优化，优化后解码速度提高了5倍。