现有的视频编码标准H.264/AVC虽然具有出色的性能，但是随着高清甚至超清视频的出现，已明显不能满足人们的需求。于是，ITU-T与ISO/IEC再次合作，于2013年发布了新一代高效视频编码标准—HEVC。HEVC仍然沿用传统的混合编码框架以去除数据冗余。这一类编码技术主要通过大幅度提高计算量来换取增益，其性能提升速度已越来越慢。如何进一步提高视频压缩效率成为一个亟待解决的问题。近年来，研究人员尝试将视觉感知特性融入视频编码，形成了一个新的研究领域感知视频编码。提高压缩比而不影响主观质量对于解决这一难题具有重要理论意义。　　本文利用最小可觉察模型（Just Noticeable Distortion，JND）来描述人类视觉系统。JND模型使用量化的阈值来衡量感知冗余。人眼无法感知低于这个阈值的像素值。主流的JND模型包括基于像素域的和基于变换域的模型。本文首先在像素域中进行JND建模，计算背景亮度自适应模型和纹理掩盖模型以得到JND阈值。其次，本文在变换域中提出了一种改进的JND模型，引入了一个更符合人眼特性的时空域对比度敏感函数，考虑了人眼对阈值的影响。仿真实验结果表明，本文模型能容忍更多的失真产生更高的JND阈值。　　随后，将提出的JND模型引入进HEVC编码框架中。本文首先利用像素域JND模型对视频图像进行预处理，去除视频在处理之前就已经存在的视觉冗余。其次，在变换量化模块中使用JND模型对视频进行残差系数滤波。然而，考虑到变换跳过模式的引入，本文针对两种不同的模式分别使用不同的JND模型。使用改进的变换域JND模型对变换不跳过模式进行处理，去除人眼无法感知的失真。针对预测残差很小的变换跳过模式，则使用计算简单的亮度掩盖模型以降低计算复杂度。预处理和残差滤波两种方法的结合，使得人眼视觉冗余被尽可能地去除。仿真实验结果表明，本文所提出的算法可以在确保主观质量的前提下，进一步地去除感知冗余，提高压缩效率。