HEVC（High Eifficiency Video Coding）是由国际电信联盟(ITU)的视频编码专家组VCEG(Video Coding Experts Group)和国际化标准组织(ISO/IEC)运动图像专家组MPEG(Moving Picture Experts Group)组成的联合视频编码工作组JCT-VC(Joint Collaborative Team on Video Coding)共同制定的新一代视频编码标准。在以往视频编码标准的基础上，HEVC采用了众多新技术，具有更高的压缩比和更好的图像质量。然而其编码性能的提高是以引入巨大计算复杂度为代价的。因此，如何在保持HEVC编码性能的基础上，尽量减少其计算复杂度，是HEVC能否被广泛应用的关键问题。于是，HEVC算法优化成为当今研究的热点，也是本文工作的重点部分。为了有效地降低HEVC的计算复杂度，本文根据其编码器特性对其耗时模块帧内编码进行了一系列的优化。首先，本文在分析了HEVC帧内预测算法特征的基础上，针对HEVC穷尽搜索所有可能的CU分块选择最佳的帧内预测分块方式计算量大的缺点进行了改进，提出了一种基于参考相邻CU的分块方式结合阈值法的CU分割优化算法。该算法通过统计与当前CU相邻的CU分层深度，估计当前CU可能的分割范围，同时对N×N这种不具有很强统计特性的分块模式以及无法提取到相邻CU信息的边缘CU根据RDcost和预设阈值的比较结果确定是否提前中止分割。其次，讨论了HEVC帧内预测对于预测模式选择的优化，提出了一种基于边缘方向和空间关联信息的优化算法。首先，在HEVC模式SATD粗选择计算前利用边缘方向信息挑选预测模式；对于粗选择后的模式候选列表，分为方向模式和非方向模式的优化算法，对于方向模式结合参考上一层预测单元的预测模式和MPM（Most Probable Modes），筛选候选列表，仅计算可能性较大的模式，从而大大加快了帧内预测模式选择过程。最后，结合两种优化算法，本文提出一种，性能优越的HEVC帧内预测优化算法。实验结果表明：(1)、本文所提的针对帧内预测基于参考相邻CU的分块方式结合阈值法的CU分割优化算法比HEVC参考代码的全搜索模式决策算法缩短了43%左右的编码时间，而BDPSNR仅下降0.10dB，BDBR仅增加1.78%；（2）、同HEVC帧内预测模式选择算法相比，本文所提快速帧内模式选择算法降低了约25%的计算复杂度，而BDPSNR仅下降0.04dB，BDBR仅增加0.50%；（3）、比起HEVC参考代码中的帧内预测，本文所提的结合快速CU分割算法和预测模式选择优化算法的快速帧内预测算法减少了约55％的帧内编码时间，而BDPSNR仅下降0.13dB，总比特率仅增加2.35%。综上所述，本文所提出的快速算法对HEVC视频编码标准的实际应用具有重要意义。