HEVC(High Efficiency Video Coding)是由ITU-T的视频专家组(VCEG)和1SO/IEC的运动专家组(MPEG)联合推出的下一代新视频压缩方案，目标在H.264/AVC High Profile的基础上进一步提高压缩编码效率。新视频方案支持分辨率从WQVGA到1080p甚至超高清，将在高清电视、家庭影院、数字电视广播、移动流媒体等多个领域广泛应用。然而高编码效率是以牺牲计算复杂度为代价的，如何在保证编码性能的前提下提高编码速度，这是新压缩编码方案制定的难点。　　 为了降低HEVC编码算法的复杂度，本文首先研究了HEVC视频编码的新编码工具，并针对HEVC的测试模型TMUC进行整体的性能测试和关键模块的技术分析。然后着重针对帧内预测和DCT变换两个模块的算法做了研究，并在分析了现有测试模型中这两个模块计算复杂度的基础上提出改进算法。　　 帧内预测方面，在对标准测试序列进行大量数据统计的基础上，分析了编码单元的最小平均绝对误差(MAD)和编码单元预测类型之间的相关性，提出一种基于编码单元纹理复杂度的帧内编码单元类型预判决方法。在HEVC的测试模型TMUC0.5上实现该算法，测试结果表明，改进的帧内预测算法在编码质量和码率基本不变的前提下，与测试模型上原算法相比编码速度提升了大概14.5％；　　 变换编码方面，研究了现有的DCT/IDCT快速算法，借鉴小尺寸变换单元的快速算法思想，针对大尺寸变换单元提出改进方案。改进方法是基于变换矩阵的分解，把loeffler快速算法8点DCT/IDCT扩展到更高阶DCT/IDCT，最后在TMUC0.5测试模型中实现该改进的算法，性能测试结果表明单独的16点DCT/IDCT速度可以提升20%左右，而整个DCT/IDCT模块速度可以提升4%左右。