近年来,随着视频应用愈发广泛,视频数据量爆炸式增长。视频数据量的急剧增加造成视频在存储及传输中面临巨大压力,因此对视频压缩效率的要求不断提高。国内外视频编码标准组织在上述背景下,不断为视频编码流程中的各功能模块提出更为高效的编码技术,以提升视频压缩效率。现有传统视频编码标准中所采用的编码技术,主要以提升客观性能指标为目标,而感知视频编码技术可在传统视频编码标准基础上,结合人眼视觉感知特性进一步去除视频中的感知冗余信息。因此本文基于高效视频编码（High Efficiency Video Coding,HEVC）标准,结合可反映人眼对失真感知程度的恰可察觉失真（Just Noticeable Distortion,JND）阈值估计模型提出感知视频编码优化算法。一方面,为降低编码残差数据所需的码率,本文提出基于加权预测的帧内感知残差滤波算法。首先考虑到HEVC现有帧内预测技术预测准确性有限的情况,该算法采用加权预测技术,通过利用更多的参考像素及其组合方式,提升帧内预测的准确性;然后,在采用加权预测得到的帧内预测残差基础上,结合JND阈值估计模型设计残差滤波器,对残差信号中难以被人眼视觉系统（Human Visual System,HVS）感知的部分进行滤波,以去除其中的感知冗余信息。另一方面,HVS在一定码率范围内只能感知到有限且离散的视频感知质量层级,考虑到量化作为视频编码过程中影响码率和失真的关键技术,本文提出基于感知的自适应量化算法。首先通过结合JND阈值估计模型和HEVC编码失真估计模型确定帧级感知量化参数;其次,由于HVS对不同视觉特征的区域具有不同的感知敏感度,因此结合JND阈值估计模型,在帧级感知量化参数的基础上确定编码单元（Coding Unit,CU）级感知量化参数,以进一步去除视频中的感知冗余信息,实现视频压缩效率的提升。综上,基于HEVC视频编码标准,本文所提出的感知视频编码优化算法,在预测阶段提出加权预测技术,提升帧内预测准确性,降低预测残差幅值,并在该预测残差基础上,结合JND阈值估计模型设计残差滤波器,对残差信号中难以被HVS感知的部分进行滤波。而在量化阶段,结合JND阈值估计模型和HEVC编码失真估计模型确定各帧与各编码单元CU所使用的感知量化参数。本文所提出的算法通过对编码过程中不同处理阶段的优化,最终实现视频压缩效率的提升。本文对所提出的基于加权预测的帧内感知残差滤波算法和基于感知的自适应量化算法进行实验验证。根据实验结果显示,基于加权预测的帧内感知残差滤波算法AllIntra（AI）配置下,与原始编码器HM16.17具有相近感知质量的同时,具有6.23%的码率节省。基于感知的自适应量化算法在AI,Low Delay B（LDB）和Random Access（RA）三种配置下,在无明显感知质量下降的条件下,分别可实现22.37%,15.92%和10.87%的码率节省。两者联合仿真实验显示,整合上述两个算法后,在AI配置下可实现25.05%的码率节省。