HEVC是最新一代的视频编码标准,相比前一代标准H.264能节省50%的码率,因此正在成为业界视频压缩的主流标准。HEVC超高清并行编码是当前的研究热点之一。此外,目前有大量的H.264编码格式的内容需要转换为HEVC格式,H.264转码HEVC快速算法也具有很高的实际应用价值。本文工作主要包括以下两个方面:第一是HEVC编码器去块滤波并行设计与实现,第二是H.264转码HEVC模式判决算法研究。去块滤波能有效减少编码器的块效应,对编码性能的提升显著。本文通过对去块滤波先后依赖性的分析,对去块滤波进行数据分解,提出了一种可行的去块滤波CTU级并行方案,并对去块滤波数据存储进行设计,在众核处理器上以较低复杂度设计实现了去块滤波模块。转码算法方面,本文首先提出了一种基于残差同质性的模式判决转码算法。不仅利用零残差(zero SAR)和残差同质性(RHI)协助判决编码单元(CU)提前终止分割,还利用RHI对CU进行具体分类,提出快速预测单元(PU)模式判决算法。本算法以平均码率上升2.3%的代价,比全解全编的转码节省56%的运算时间。之后本文又提出了一种基于预测同质性的模式判决转码算法。不仅引入运动同质性提高快速PU模式判决的准确性,还采用了2Nx2N模式的编码块标志CBF系数作为新的指标,进行CU提前终止分割判决。此转码算法以平均码率上升2.08%的代价,比全解全编的转码可以节省50%的转码时间。