随着宽带网络和高清晰显示器的发展,人们对视频画面的质量有了更高的期望,这也给视频编码技术带来了新的要求和挑战。率失真优化技术可指导编码器选择最优的编码参数,被广泛应用于视频编码过程中。准确地评估编码失真,是率失真优化技术合理分配比特资源、实现最优压缩性能的关键。当前主流的率失真优化技术所使用的失真评估方法,仅通过统计重建信号和原信号之间像素值的差异,来评估重建信号的受损程度。而人眼是视频的目标消费者和最终接收者,未考虑人类视觉系统感知机制的失真评估方法,无法准确地反映人眼对视频质量的主观感受。建立符合视觉感知规律的感知失真测度模型,对指导编码器优化分配比特资源,提高编码器的压缩效果有重要意义。本文基于人类视觉感知机制,通过视频多方法融合模型(Video Multimethod Fusion Approach,VMAF)及主观实验建立了新的感知失真测度模型,并将其应用于H.266/VVC官方参考软件VTM中,改善了重建视频的感知质量。主要研究成果包括:考虑空域复杂度对视觉感知的影响,本文提出一种面向视觉感知的图像编码算法。基于人类视觉系统的视觉敏感度机制,根据VMAF模型对图像质量的评估结果,分析空域复杂度对视觉感知的影响,建立了感兴趣区域的感知失真测度模型。在此基础上,基于人类视觉系统的视觉注意机制,结合主观实验所获取的非感兴趣区域视觉重要性权重,建立了非感兴趣区域的感知失真测度模型。将上述所建模型应用于编码器VTM中,改善了编码器对比特资源的分配策略。实验结果表明,相比于VTM原算法,所提算法在相同的比特资源下,重建图像的感知质量更高。其中,BD-MOS获得0.22分的增益。综合考虑空域及时域复杂度对视觉感知的影响,本文提出一种面向视觉感知的视频编码算法。在图像感知失真测度基础上,基于人类视觉系统的视觉敏感度机制,分析空域复杂度一定时,时域复杂度对视觉感知的影响,建立了视频感知失真测度模型,并将其应用于编码器VTM中,指导编码器优化分配比特资源。实验结果表明,相比于VTM原算法,所提算法在相同的比特资源下,有效地改善了重建视频的感知质量。其中,BD-MOS获得0.46分的增益。