随着科技的进步和经济的发展,人们对数字视频相关业务的需求日益增长,视频编码技术作为视频业务的基础核心技术,逐渐成为业界关注的焦点。目前主流的视频编码标准(如H.264、H.265、AVS系列等)都沿用传统的混合编码框架,随着相关技术日趋成熟完善,这类传统编码技术编码端计算复杂度不断增大,而编码效率提升越来越慢。为了突破传统技术框架,基于人类视觉系统(HVS)的视频编码算法应运而生。这类技术利用HVS视觉感知特性,通过去除视频信息中的感知冗余实现压缩编码。结合研究现状,本文首先提出了一种综合考虑HVS特性,可以应用于视频编码的视觉感知模型。模型对每个宏块都输出一个视觉感知系数VPI,反映宏块对HVS的视觉重要度。VPI的计算,考虑了 HVS视觉注意机制、视觉暂留效应和分辨能力有限的特性。实验结果表明,本文模型计算出的VPI可以准确反映人眼主观感受。本文还提出了一种基于视觉感知的率失真优化算法,算法以结构相似度作为失真度量,并利用视觉感知系数VPI对拉格朗日系数进行自适应地调整,从而选择出最优的编码模式。实验结果表明,本文算法在几乎不增加算法复杂度的情况下,最多可以提升7.1%的编码效率。