不同场景下各种视频的应用,如高清、超高清视频和移动视频的应用,对视频标准提出了更高的要求,为此,视频编码标准需要实现更高的压缩效率和更强的容错鲁棒性。对视频编码技术的优化是满足更高视频需求的重要方法,由于帧内预测是视频编码的重要组成部分,帧内预测采用了多种复杂的编码技术,尤其是高计算量的率失真技术,增加了视频编码整体计算复杂度。因此,如何在保持视频标准编码性能的情况下,最大限度地降低帧内预测的复杂度成为研究热点。论文分别研究了广泛应用的视频编码标准H.264/AVC和最新提出的高效率视频编码标准(high efficiency video coding, HEVC)的帧内预测优化技术。针对H.264/AVC帧内预测中的DC预测模式未充分利用空间相关性的问题,提出了迭代预测方法。通过分析预测的方向性特征以及局部区域的纹理特征,引入了水平和垂直方向预测策略。迭代预测方法只采用了与预测像素直接相邻的左边和上面的参考像素进行预测,这些参考像素都采用相同的预测权重。实验结果表明,迭代预测方法提高了DC预测模式的编码性能,并且方法更易实现。作为研究最为广泛的H.264/AVC帧内预测优化技术之一,快速模式选择算法性能得到了进一步地提升。在分析已有快速模式选择算法技术特征的基础上,针对现有算法的特点提出了一种简化的比较方法,在不降低快速模式选择算法性能的情况下,减少了编码时间。提出了混合快速模式选择算法,并设计了与方向预测模式一一对应的边缘检测滤波器。该滤波器可以有效地消除已有算法中方向预测模式之间的依赖关系,并且吸纳了H.264/AVC帧内预测的技术特点,达到比已有的滤波器更佳的滤波效果。提出了基于局部信息的快速模式选择算法。对混合快速模式选择算法进行了性能分析,并根据算法中存在的不足做出了相应改进。优化了算法处理数据的方式,进一步降低了算法计算复杂度。集成了局部区域信息,并根据滤波得到的数据特征,设计了更为适合的集成方法,在提高编码性能的同时减少了算法的编码时间。根据模式确定的层次结构,结合已有的块大小类型选择算法,提出了综合优化方法,进一步减少了编码时间。通过对HEVC帧内预测技术特点的分析,提出了自适应模式选择算法。算法以最可能模式为参考,根据其在初步预测模式选择阶段的计算结果自适应地选择候选预测模式。该算法可以有效降低HEVC帧内预测的计算复杂度,而编码性能几乎不受影响。