随着各种新兴视频应用以及超高分辨率视频的出现,全球范围内的视频数据量正在急剧增长。大量的视频数据给视频的处理、存储与传输过程带来了挑战。视频编码技术则是应对上述挑战的关键解决方案之一。一直以来,国际标准组织都在致力于制定更加高效的视频编码标准,预测、变换、量化及熵编码等多种技术被用于视频编码中以提升其压缩效率。高效的视频编码技术使得视频所占用的空间大幅减少,进而能够被方便地存储与传输,是保证视频应用服务质量与用户体验的关键所在。因此,如何提高视频编码的压缩效率是非常热门且具有重要意义的研究课题。主流视频编码框架通常利用差分预测编码获得预测残差,并对残差数据进行变换、量化及熵编码等操作来达到压缩视频的目的。其中预测编码分为帧内预测和帧间预测,分别用来消除视频中的空间冗余与时间冗余。对预测残差变换之后进行量化可以减少视频中人眼所不敏感的高频信号,熵编码则用以消除编码过程中语法元素间的统计相关性。此外,随着对人眼视觉特性的研究,针对主观视觉质量的感知视频压缩技术也开始被广泛应用。感知视频压缩利用人眼视觉模型计算视频中的感知冗余,并通过去除这些冗余信息来提升压缩效率。本文将对基于帧内二次预测算法的感知视频压缩进行相关研究,以进一步提升视频压缩效率。传统帧内预测的参考像素位于编码块左上方,编码块右下部分像素与参考像素距离较远,也即意味着它们的空间相关性较差,因此这部分像素预测准确度较低,最终的预测残差较大。针对这一问题,本文提出了帧内二次预测算法,在传统帧内预测的基础上,利用编码块的右下边界重建像素作为新增的参考像素,与编码块左上方的参考像素共同对编码块再次预测,提升了预测的准确度,减小了预测残差。在帧内二次预测的基础上,残差可以被进一步降低。传统编码技术通常利用编码前后图像间的客观差异大小作为编码质量评测的标准。但视频最终的接收者是人眼,客观编码方式的结果难以符合人眼主观感受。针对这一问题,本文将利用人眼的亮度自适应效应和对比掩蔽效应,计算图像中的恰可察觉失真大小,并设计一种新的残差滤波器滤除残差中的感知冗余。在滤波过程中考虑到量化失真的影响,本文提出了适用于新一代视频编码标准VVC（Versatile Video Coding）的失真估计模型,计算编码过程中的量化失真,以用来控制残差滤波的精度,保证编码图像的主观质量。通过本文基于帧内二次预测的感知残差滤波算法,编码过程中的残差数据被大幅降低,节省了编码残差所需的比特数,进而降低了编码的码率,提升了编码的压缩效率。实验数据表明,与新一代视频编码标准VVC相比,帧内二次预测与感知残差滤波算法分别能够平均节省其1.18%和5.49%的编码码率,将两者融合后的算法,能够平均节省其6.5%的编码码率,并获得与其相近的主观编码图像质量。